元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
先公昔登庸，寔出元礼门。雄篇累贲遗，存亡被光燉。
吾儿缪通籍，重得联英骞。顽鄙当其中，俯仰惭祖孙。
夫子笃风义，眷然推好敦。昨旅同北都，今来共南濆。
英哲产自艰，分气勤化元。绳矩用必庄，天球质本温。
藏蓄在王府，望瞻不可扪。谁令寘海隅，混揉珠贝繁。
兰风涤瘴腥，桐韵澄蛮喧。迩来观海居，高寄城西原。
白雉不见来，蜃气日夕昏。将无辱贤者，乘桴慨遗言。
韩公日良觌，代隔道共存。时时出卮言，珍怪无玙璠。
颇闻多幽味，深澹如丘樊。蔚林断湫鞅，疏筱涵静源。
万境不能乱，始知吾性尊。凤文非可求，惠然下蓬轩。
虽钦俯芥收，终愧仰萝援。即欲往从之，川梁棘我辕。
尘谣无足投，望报来琼琨。空荒坐迟晚，劲策幸扶攑。