元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
皦皦志士心，玉壶冰露寒。
整冠默危坐，抚卷慨永叹。
胶扰天下事，岂逃吾静观。
是心本如水，风过成涛澜。
蚁或作牛斩，雀常用珠弹。
万境各颠倒，何者为忧叹。
圣学有宗盟，口血应未乾。
进修在覆篑，趋舍防奔湍。
正须极高深，乾坤见倪端。
规摹括四代，宗庙富百官。
譬如入玉府，璆琳杂琅玕。
逢原在左右，谅非登一难。
忆昔金马门，执戟趋铜龙。雄飞奋六翮，夭矫随天风。
一朝事势异，漂转如征蓬。人生贵适意，大业宁三公。
开轩赤城畔，丹霞照帘栊。图书不盈丈，有若蓬莱宫。
神游八极表，目送双飞鸿。陋彼征西贵，柴棘盈胸中。
太虚为我宅，何事悲途穷。