元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
迢迢远行迈，行迈暂维舟。维舟白日晚，原野风飕飕。
风飕一长望，四顾起沉忧。沉忧非一端，杞国符我谋。
仪象迭舛错，人事多愆尤。骀驽服上驷，骅骝弃道周。
鸺鹠鸣高树，鸾鷟远丹丘。衢路豺虎啼，城社狐鼠游。
嗟哉远行客，举足将安投。不如返故栖，与子共林陬。
况乃骨肉分，各念道里悠。子居有令望，我出无良筹。
离悲增物感，泪下不可收。