孝文皇帝四年的时候，灌婴在丞相上任期间去世，谥号为懿侯

吕后死后，因灌婴与周勃等拥立孝文帝有功，升为太尉
灌婴在打败了黥布回到京城时，刘邦去世了。灌婴就以列侯之职侍奉孝惠帝和吕太后。太后去世以后，吕禄等人以赵王的身份自置为将军，驻军长安，妄图发动叛乱。齐哀王刘襄得知此事以后，发兵西进向京城而来，说要杀死不应该为王的人。上将军吕禄等人听说之后，就派遣灌婴为大将，带领军队前去阻击。灌婴来到荥阳，就和绛侯周勃等人商议，决定大军暂时在荥阳驻扎，向齐哀王暗中示意准备诛杀吕氏的事，齐兵因此也就屯兵不前。绛侯周勃等人杀死诸吕之后，齐王收兵回到封地。灌婴也收兵从荥阳回到京城，和周勃，陈平共同立代王刘恒为孝文皇帝。孝文皇帝于是就给灌婴加封食邑三千户，赐给黄金一千斤，同时任命他为太尉。

孝文皇帝三年，灌婴被撤了太尉之职，被封为丞相
公元前177年（孝文皇帝三年），绛侯周勃免除丞相职务回到自己封地上去了，灌婴担任丞相，撤销了太尉之职。这一年，匈奴大举入侵北地、上郡，皇帝命丞相灌婴带领骑兵八万五千人，前去迎击匈奴。匈奴逃跑之后，济北王刘兴居造反，皇帝下命令灌婴收兵回京。公元前176年（孝文皇帝四年），灌婴死在丞相任上，谥号为懿侯。