Hartmann sa narodil 19. apríla 1922 vo Weissachu pri Stuttgarte. Väčšinu detstva prežil na Ďalekom východe, pretože jeho otec pracoval v Číne ako lekár. Po návrate do Nemecka v roku 1928 sa zapojil do výcvikového programu letov s klzákmi, čo bol program určený najmä pre začínajúcich pilotov Luftwaffe pod záštitou Hitlerjugend.
Po absolvovaní programu uskutočnil prvý samostatný let v marci 1941. V 20 rokoch bol povýšený do hodnosti poručíka a v septembri 1942 pridelený k stíhacej eskadre Jagdgeschwader 52. Tá bola rozmiestnená v oblasti Kaukazu na východnom fronte a mala k dispozícii lietadlá Messerschmit.
Vysoká odmena za jeho hlavu
Hartmann od začiatku vynikal najmä v taktike vzdušného boja. Prvé sovietske lietadlo, Il-2, zostrelil v novembri 1942 a potom jeho sláva rástla. Sovietske veliteľstvo na jeho hlavu vypísalo vysokú odmenu. V priebehu jediného roku (1944) zaznamenal 172 víťazstiev, čo je rekord, ktorý nikto neprekonal.
Hartmann pôsobil až do konca vojny vo funkcii veliteľa skupiny. Počas dopoludnia 8. mája 1945 zostrelilo v súboji nad Brnom svoje 352. lietadlo, vykonávajúc víťaznú akrobaciu. Ešte v ten istý deň sa Hartmannova jednotka po pochode smerom na Strakonice vzdala americkej 90. pešej divízii.
Čítajte viac Legendárna stíhačka Luftwaffe pristála v múzeu
Po zajatí odovzdala americká armáda (podľa dohôd z Jalty, ktoré určovali, že majú byť vydaní všetci vojaci priamo bojujúci proti ZSSR) Hartmanna, jeho jednotku s pilotmi aj pozemným personálom do zajateckého tábora v Sovietskom zväze. Toto odovzdanie prebehlo na území Československa pri Písku, kde boli Nemci internovaní v zajateckom tábore. Hartmann bol transportovaný do zajateckého tábora za Ural, ale napriek nátlaku NKVD spoluprácu s ňou neprijal.
Repatriovaný medzi poslednými
Hartmann bol obvinený z vojnových zločinov (presnejšie z úmyselného zabíjania civilistov) a odsúdený na 25 rokov. Najmä na začiatku zajatia bol vystavený mučeniu a pobytom v tmavej samotke. Po viac ako desiatich rokoch strávených v zajatí na Sibíri bol v roku 1955 medzi poslednými zajatcami repatriovanými do západného Nemecka.
Rok po návrate sa stal dôstojníkom západonemeckého letectva. Neskôr velil prvej jednotke vybavenej americkými prúdovými lietadlami Lockheed F-104 Starfighter. Niekoľkokrát sa zúčastnil leteckého výcviku v Spojených štátoch.
Do výslužby odišiel na vlastnú žiadosť v septembri 1970 v hodnosti plukovníka.
Hartmann zomrel vo veku 71 rokov 20. septembra 1993. Rusko ho plne rehabilitovalo v januári 1997 a potvrdilo tiež, že podmienky procesu aj rozsudok samotný bol nezákonný.