宝应元年(公元七六二年)四月初五，太上皇玄宗病死，享年七十八岁。当时肃宗也患了重病，到了十八日，也两脚一伸，跟着玄宗走了。
四月二十日，广平王李俶即位，是为代宗。九月，代宗因仆固怀恩之女是回纥登里可汗的可敦，便遣怀恩出使回纥，重修旧好，并向回纥征兵讨史朝义。登里可汗开始时不答应，经怀恩再三劝说，才同意派兵。
十月，以雍王李适为天下兵马元帅，约期诸道兵及回纥兵马在陕州会合，进讨史朝义。代宗想命郭子仪为副元帅，宦官鱼朝恩和程元振坚决反对，只好任命仆固怀恩为副元帅
战事告捷，怀恩进克东京和河阳城，捉住史朝义的中书令许叔冀、王伷等。怀恩留回纥军于河阳，遣子仆固葫及朔方兵马使高辅成率步骑万余乘胜追击史朝义，到郑州，两战皆捷。史朝义逃到汴州，其陈留节度使关了城门不让他进去;朝义自濮州北渡黄河，其睢阳节度使田承嗣等领兵四万来与他会合，又被仆固葫击败了，长驱进到昌乐(今河南南乐)东，朝义又率魏州兵来战，又被仆固萌击败。于是敌邺节度使薛嵩向唐泽潞节度使李抱玉投降，敌恒阳节度使张忠老投降了唐河东节度使辛云京
史朝义逃到莫州(治所在今河北文安县以西的鄭州)，官军很快赶到。史朝义屡次出战，都吃了败仗，田承嗣要史朝义亲往范阳发兵来救，哪知史朝义前脚刚走，田承嗣便开门投降了官军。这时史朝义的范阳节度使李怀仙也已投降了朝廷，并遣兵马使李抱忠领兵三千镇守。史朝义逃到范阳，李抱忠关了城门不让他进城。史朝义派人去责问李抱忠，李抱忠说：
"天不保佑燕，今既归唐，岂可反复。"史朝义要求让他饱餐一顿。李抱忠答应了，命人在城东设食供应，结果家在范阳的将士都要求回家，史朝义一点办法也没有，只好让他们走了。史朝义吃饱了，带着数百胡骑东奔广阳(今北京市杨柳青)，走到温泉栅，李怀仙派兵追来了，史朝义穷蹙无计，在树林中自缢而死，被李怀仙取了首级献给朝廷。历时八年的"安史之乱"到这时总算结束了。
