元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
南山有嘉木，秀拔何亭亭。盘根盖得地，直干自挺生。
朝为杲日照，暮得甘雨零。气敌雪霜劲，势凌云霄青。
岂非涧下材，独赋轮囷形。属当构大厦，量度审重轻。
彼尺我已丈，一柱支百楹。夫君承显家，累世公与卿。
天质由庆禀，湛然宝纯明。膏粱莫能迁，志操务洁清。
纷华未易胜，仁义思力行。学殖固原本，词章露葩英。
早夜勤琢磨，日望贵器成。间岁下明诏，时哉会光亨。
遥遥万里涂，思君如户庭。