常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
庾郎吾爱千里驹，朝莫勤苦读父书。
少年绰有老成态，月旦考订评乡闾。
明当别我择贤妃，结束琴剑谁挽裾。
春空吹明惠风畅，烟草弄色和气舒。
野桥融洩柳絮合，石岸惨怆鸣鶢鶋。
乘龙有期弗获钱，数椽政葺渊明庐。
旅愁冥思莫非遣，离恨挂臆难扫除。
况当春晚气暄淑，着人欲醉甘体如。
修程的嘱善养摄，礼毕蚤辨双轮舆。
妇翁傅道世大儒，習俗再使淳古初。
稔知贤舅继学家，子如从之师有馀。
归来阿叔待审订，义路礼门从广居。