元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
西行一万里，郡国何遥遥。马鸣寒日暮，始至咸阳桥。
渭水自萦带，函关空寂寥。秦家故宫阙，离离惟黍苗。
汉陵松与柏，枝干半成樵。草间两翁仲，似欲语前朝。
废兴虽定理，遗迹几时消。
我本山中人，渴饮松下露。松肪酿春酒，和月共吞吐。
一瓢甘自醉，漓薄亦不恶。澹然有真味，醲滟反成痼。
常恐樽罍空，或贻友朋怒。万里困风尘，十年负幽趣。
平生陶靖节，耿耿见寐寤。初非薄轩冕，且复事农圃。
难效西施颦，虑失邯郸步。故园归何时，委心任吾寓。