元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
天生神物非偶然，此龟不知今几年。
世传一尾直百岁，计应生在晋魏前。
长江不挂豫且网，得来佳处游林泉。
穹然苍甲大如屋，欲负三山翔群仙。
奇宫偶卦天地立，爻昼夐出大易先。
惟昔宁王重为宝。閟藏欲永万世传。
今兹此宝世莫识，但爱金字毛绿鲜。
仰视朝阳俯引气，一闭千息常绵绵。
默然无言观物化，寿比彭钱犹更贤。
阴阳灵变固莫测，时或轻举来巢莲。