元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
雪打窗外竹，共卧窗间床。
起来忍饥冻，对坐唯炉香。
写之三尺琴，绕屋声琅琅。
相从无此好，要俶西山装。
西山接飞鸿，路入云水乡。
六月余积雪，冬木今春芳。
群仙竞来往，御风骑凤凰。
我昔曾见之，瞳子瞭且光。
张子长鬣师，沆瀣入肺肠。
为取桥下履，仍传枕中方。
此时觅刀圭，念我双鬓苍。