元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
瑞龙千丈何蜿蜒，苍鳞翠鬣翔江边。
路逢镜湖乃下驻，玩珠不去知何年。
七州元帅拥画戟，全家终日楼居仙。
霜笳一曲入银汉，碧瓦万叠浮岚烟。
其间望海最杰观，疏豁坐占蓬莱先。
风云变化几席上，蛟鼍出没阑干前。
手扪心房倚北斗，眼中万象俱森然。
尚书唤客共领略，远坊十里闻管弦。
从容赋诗出妙思，超绝欲拍微之肩。
坐中有客垂九十，追逐无路空自怜。
夜阑客散公归院，笙歌隐隐在半天。
向来老客今何处？菱唱三更起钓船。