元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
世祖图勋旧，先公立要途。声华台阁重，宠渥禁庭殊。
喜见传家子，真成堕地驹。春云浮玉树，秋水出冰壶。
世赏诸侯爵，平分刺史符。气吞云梦泽，思绕洞庭湖。
忧国头将白，移官绂尚朱。敬亭吴楚胜，别驾孝廉俱。
吏慑神明政，民怀抚字劬。丹衷深感格，甘雨遂沾濡。
柏府章交荐，薇垣礼独逾。甘棠歌召伯，击壤咏康衢。
铨吏持筹策，年劳限累铢。承恩迁五马，恋阙起双凫。
鼓枻辞吴会，扬舲入帝都。春风吟芍药，夜雪拥