常衮登第后由太子正字授补阙起居郎,永泰元年(765年)授中书舍人。大历十二年(777年)拜相,杨绾病故后,独揽朝政。以文辞出众而又登科第为用人标准,堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后,被贬为河南少尹,又贬为潮州刺史。不久为福建观察使。常衮注重教育,增设乡校,亲自讲授,闽地文风为之一振。建中四年(785年)死于任上。享年五十五岁,追赠为尚书左仆射。
旧德前朝在,传家后起难。江山留治迹,祠庙足辛酸。
兄仕初为令,君恩每改官。分符临夏口,建节过闽滩。
荒服南溟阔,雄藩列嶂巑。命提中典使,首立外台端。
经术良为本,科条亦可观。霜风清瘴疠,蛟鳄伏波澜。
陈氏尝惭长,诸袁实继安。公卿终可致,道德在无刊。
永忆家风厚,咨嗟狱吏残。深文堪惕息,考谳极创瘢。
昔滥京仓禄,䢅趋省户丹。循书黄案尾,默愧惠文冠。
隐几今怀耿,中宵每窃叹。政玆褒召杜,道必闭申韩。
陈臬虽无陂,推情或未殚。勿忧陈奏却,翻戒虑囚宽。
梅岭延冬燠,茆檐卧岁阑。公私相望切,引领属加餐。