元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
山口挂残月，树色晓青苍。登危陟层坂，历险凌崇冈。
力衰五步歇，仆夫相扶将。下瞰同旅人，伛偻行趋跄。
顾余头白翁，驱策游何方。故人有黄子，绾绶宰江乡。
畴昔枉尺书，走使过洺漳。温语慰衰朽，冰雪洒肝肠。
吾里值岁俭，尽室无宿粮。老妻裙不完，稚子充糟糠。
苦被八口累，奔迫道阻长。黄子敦古处，不与俗士行。
车笠有前期，久要应不忘。