Politická kariéra syna roľníkov z juhomaďarského Kaposváru začala počas prvej svetovej vojny. Nagy sa dostal do ruského zajatia a následne sa stal vojakom Červenej armády a členom komunistickej strany. Po vojne sa na čas vrátil do Maďarska, ale už v roku 1929 odišiel späť do Moskvy, kde sa venoval problematike poľnohospodárstva, ale pestoval aj svoje politické kontakty. Podľa niektorých prameňov mal styky aj s tajnou službou NKVD.
Koncom roka 1944 sa Nagy vrátil do rodnej zeme a pomáhal tam ustanoviť komunistickú vládu. Jeho politický vzostup bol rýchly. Postupne zastával niekoľkok vysokých ústavných postov. No koncom 40. rokov ho spory so stalinovským krídlom prinútili dočasne sa stiahnuť z politiky. Nie však nadlho.
Keď bol v lete 1953 Moskvou odstavený premiér Mátyás Rákosi, jeho post zaujal práve Nagy. V čele kabinetu sa pokúšal robiť reformy, ktoré by aspoň čiastočne liberalizovali nefunkčný stalinovský model. Ten len prehlboval katastrofálnu hospodársku situáciu vo vojnou zničenej zemi. V roku 1955 sa prívrženci expremiéra Rákosiho postarali o to, aby bol zbavený všetkých funkcií a vylúčený z komunistickej strany. Jeho druhé politické zatratenie však bolo ešte kratšie ako to prvé.
Situácia v Maďarsku v polovici 50. rokov dospela k výbuchu nespokojnosti občanov. Dôvodom nebola len nízka životná úroveň, ale aj informácie o politických procesoch z éry stalinizmu, ktoré sa dostali na povrch. Radikálne naladení študenti v niektorých mestách prišli s (v tej dobe) nemysliteľnými návrhmi. Napríklad žiadali slobodu prejavu, či voľby s účasťou viacerých strán. K požiadavkám sa postupne pripojila aj veľká časť verejnosti. Zvrhnutie Stalinovho pomníku v centre Budapešti 23. októbra 1956 odštartovalo udalosti známe ako maďarská revolúcia.
Nádeje reformných Maďarov sa upínali k Nagyovi, ktorý bol znovu povolaný do funkcie premiéra. Požiadavky, ktoré reformátorov však presahovali Nagyovu predstavu o potrebnom rozsahu zmien. nakoniec sa ale stotožnil s programom revolucionárov, a to vrátane požiadavky na vystúpenie Maďarska z Varšavskej zmluvy či vytvorenie systému viacerých politických strán. Zásah Moskvy, ktorá proti demonštrantom nasadila aj tanky, však tieto demokratizačné snahy po niekoľkých dňoch rázne ukončil.
Nagy ešte stihol 4. novembra vystúpiť v rádiu a označiť konanie Kremľa za pokus o zvrhnutie zákonnej maďarskej vlády. Následne utiekol na juhoslovanskú ambasádu v Budapešti. Odtiaľ vyjednával s predstaviteľom novovzniknutej porevolučnej vlády Jánosom Kádárom o podmienkach, za ktorých by mu bola zaručená osobná sloboda. Ale hneď ako opustil diplomatickú pôdu, bol zatknutý a prevezený do Rumunska.
Utajený súdny proces s Nagyom a jeho spolupracovníkmi začal koncom roka 1957. 15. júna 1958 bol nad bývalým premiérom vynesený rozsudok smrti. popravili ho o deň neskôr. telesné pozostatky následne pochovali do hromadného hrobu na jednom z budapeštianskych predmestí. Rehabilitácie a dôstojného pohrebu sa Nagy dočkal až po páde komunizmu. Celý zvukový záznam z procesu s Nagyom bol však verejnosti sprístupnený len pred niekoľkými dňami.
