Relvajõudude ülemjuhatuse juhtkonda kuulus peale ülemjuhataja, kindralkortermeister ja 5 ülemkortermeistrit, kelle alluvuses olid staabi 12 osakonda:
- Kindralkortermeister (Generalquartiermeister), kes tegeles väliarmeede varustamise ja administratiivstruktuuride eest.
Kindral Eduard Wagner (1941–1944);
- Ülemkortermeister I (Oberquartiermeister I, O Qu I),
- 1. allosakond, sõjalise tegevuse, operatsioonide, sõjapidamise taktika ja põhireeglite arengute ja hinnangute koostamine;
- 5. allosakond, transportküsimused;
- 6. allosakond, tugiteenused
- 9. allosakond, topograafiaalased ülesanded;
- 10. allosakond, manöövrid ja operatiivplaneerimine;
- Ülemkortermeister II (Oberquartiermeister II, O Qu II), vägede väljaõpe
- 4. allosakond, tegeles sõjalise väljaõppetga lahingupiirkonnas;
- 11. alloskond, sõjakoolid ning allohvitseridekoolid;
- Ülemkortermeister III (Oberquartiermeister III, O Qu III),
- 2. alloskond;
- 8. alloskond;
- Ülemkortermeister IV (Oberquartiermeister IV, O Qu IV), sõjaväeluure.
Kindralmajor Kurt von Tippelskirch 1.9.39–5.1.41; kindralmajor Gerhard Matzky 5.1.41–10.1.43.
- 3. allosakond (saksa keeles 3. Abteilung Frd Heere Ost, 3/3 Abteilung (Frd Heere Ost), "Idaarmeed" tegeles strateegilise luureinformatsiooni kogumisega: Nõukogude Liidu, Skandinaavia maade riikide, Alam-Balkani maade, Aafrika ja Kaug-Ida riikide sõjavägede kohta avalikest allikatest, ajakirjandusest ja perioodilistest väljaannetest. Ülemad: jalaväekindral Eberhard Kinzel 10.11.38–1.5.42; kindralmajor Reinhard Gehlen 1.5.42–10.4.45.;
- 12. allosakond (12. Abteilung Frd Heere West), "Läänearmeed" tegeles strateegilise luureinformatsiooni kogumisega riikide sõjavägede kohta avalikest allikatest, ajakirjandusest ja perioodilistest väljaannetest. Ülemad: kindralmajor Ernst von Krause 1.8.32–5.40; kindralmajor Ulrich Liss 15.11.38–1.5.43; vabahärra ooberst von Ronne 4.43-1944; ooberst Buerklin 15.8.44–8.5.45.
- Ülemkortermeister V, tegeles sõjaajalooga