Pohjoinen armeijaryhmä perustettiin ensimmäisen kerran hyökättäessä [[Puola]]an vuonna2. syyskuuta 1939, jolloin sihen kuuluivat [[Saksan 3. armeija|3.]] ja [[Saksan 4. armeija|4. armeija]] sekä reservinä neljä jalkaväkidivisioonaa. Armeijaryhmää komensi [[Fedor von Bock]]. Armeijaryhmän esikunnasta muodostettiin 2. armeijan esikunta ja se lakkautettiin 26. elokuuta.<ref>http://www.lexikon-der-wehrmacht.de/Gliederungen/Heeresgruppen/HeeresgruppeNord.htm Lexikon der Wehrmacht</ref>
[[Operaatio Barbarossa]]a varten luotiin 22. kesäkuuta 1941 kolme armeijaryhmää, joista pohjoistapohjoisinta komensi [[sotamarsalkka]] [[Wilhelm Ritter von Leeb]]. Armeijaryhmä muodostettiin nimeämällä uudelleen armeijaryhmä C. Pohjoisen armeijaryhmän tavoitteena oli [[Baltian maat|Baltian]] ja [[Pietari (kaupunki)|Leningradin]] valloittaminen. Leningrad ei kukistunut, mutta pysyi [[Leningradin piiritys|piiritettynä]] vuoteen 1944 asti. Vuoden 1944 [[puna-armeija]]n [[operaatio Bagration]]in aikana armeijaryhmä jäi mottiin [[Kuurinmaa]]lle.
25. tammikuuta 1945 [[Adolf Hitler]] uudelleen nimesi armeijaryhmät ja saarretusta pohjoisesta armeijaryhmästä tuli [[Kuurinmaan armeijaryhmä]] ({{k-de|Heeresgruppe Kurland}}), joka antautui puna-armeijalle 7. toukokuuta 1945. Samassa yhteydessä Keskustan armeijaryhmä nimettiin Pohjoiseksi armeijaryhmäksi ja armeijaryhmä A uudeksi Keskustan armeijaryhmäksi.
