元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
君不见古来烧水银，变作北邙山上尘。藕丝挂身在虚空，
欲落不落愁杀人。睢水英雄多血刃，
建章宫阙成灰烬。淮王身死桂枝折，徐氏一去音书绝。
行路难，行路难，生死皆由天。秦皇汉武遭下脱，
汝独何人学神仙。
君不见担雪塞井徒用力，炊砂作饭岂堪吃。
一生肝胆向人尽，相识不如不相识。冬青树上挂凌霄，
岁晏花凋树不凋。凡物各自有根本，种禾终不生豆苗。
行路难，行路难，何处是平道。中心无事当富贵，
今日觉君颜色好。
君不见少年头上如云发，少壮如云老如雪。
岂知灌顶有醍醐，能使清凉头不热。吕梁之水挂飞流，
鼋鼍蛟蜃不敢游。少年恃险若平地，独倚长剑凌清秋。
行路难，行路难，昔少年，今已老。前朝竹帛事皆空，
日暮牛羊古城草。