元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
一子被夺去，囷廪遭火焚。冷官寄僧舍，僮仆卧朝昏。
平生五色笔，落纸生烟云。文章竟何用，袖手声一吞。
东坡昔无恙，豪俊日填门。君如汗血驹，胆气终逸群。
坡今骑鱼去，众客亦缤纷。翩然淮海上，霜鬓此身存。
我亦识坡者，一见等弟昆。乃知水与乳，自然和不分。
心期营一笑，发君双颊温。那知堕机阱，面上馀唾痕。
我公佯瞌睡，嘲诮了不闻。遥知读此诗，拊手髯一掀。