Vastavalt 18. märtsil1954 NSV Liidu Ministrite Nõukogu juures asuv Riikliku Julgeoleku Komitee esimehe Ivan Serovi käskkirjale oli RJK keskaparaadi struktuur:
NSV Liidu Ministrite Nõukogu juures asuv Riikliku Julgeoleku Komitee esimees
Sekretariaat
NSV Liidu Ministrite Nõukogu juures asuv Riikliku Julgeoleku Komitee esimehe juures asuv inspektsioon
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 5. valitsus (vastuluure erilist tähtsust omavatel riiklikel objektidel), ülem Ivan Betin (Бетин Иван Иосифович) (1955)[2], Pjotr Ivašutin;
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 6. valitsus (vastuluure transpordivahendite sfääris Jegorov M.I;
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 8. peavalitsus (šifreerimine-dešifreerimine), ülem (В.А.Лукшин)
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 9. valitsus (kommunistliku partei ja NSV Liidu riigi juhtkonna (MN) kaitse), ülem (В.И.Устинов)
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 10. valitsus (Moskva Kremli komandandi valitsus) ülem (А.Я.Веденин)
Kaadrite valitsus,
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Uurimisvalitsus
1. Spetsosakond (vastuluurealane töö tuumapommiga seotud objektidel (А.М. Иванов)
2. Spetsosakond (operatiivtehnika kasutamine (Г.И. Заболотный)
3. Spetsosakond (salakirjavahendite, operatiivdokumentide valmistamine, dokumentide ja käekirjaekspertiisid (К.В. Булгаков)
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee S osakond (valitsusside (П.Н. Воронин)
Arvestus ja arhiiviosakond
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Vanglaosakond (А.П. Клейменов)
Majandusvalitsus
Majandus- ja plaaniosakond
Mobilisatsiooniosakond
Õppeasustuste valitsus
Raamatupidamine
Järgnevalt läbiviidud struktuurimuudatused
1955. aastal NSV Liidu MN määrusega 805-484сс, 26. aprillist1955 loodi 30. aprillist 1955 endise 4. valitsuse 10. osakonna asemel 6. Spetsosakond, (telegraafi ja postisidekorrespondentsi perlustatsioon).
23. juunil1959 NSV Liidu MN ja RJK käskkirjaga likvideeriti NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Vanglaosakond ja NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee esimehe juures asuv Inspektsioon ning NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee S osakond liideti Valitsusside "ВЧ" vägede osakonnaga ühiseks Valitsusside osakonnaks (Отдел правительственной связи (ОПС)).
1959. aasta 25. juunil NSV Liidu MN ja RJK käskkirjaga kinnitati RJK 9. valitsuse uued isikkoosseisu nimekirjad ja struktuur, (mille koosseisu arvati ka varasem 10. valitsus);
1959. aasta 2. juulil NSV Liidu MN ja RJK käskkirjaga moodustati seniste 2., 3., 4., 5. ja 6. Spetsosakonna baasil NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Operatiivtehniline valitsusОперативно-техническое управление (ОТУ).
1959. aasta juuni-juulikuus viidi veel läbi muudatused, mille käigus 1. Spetsosakond liideti 5. valitsuse koosseisu ja Keskne raamatupidamine liideti Majandus- ja plaaniosakonnaga;
1960. aasta 2. veebruaril viidi läbi suurem struktuurimuudatus, mille käigus
4. valitsus (salajas-poliitiline osakond) ("võitlus nõukogudevastaste illegaalsete, natsionalistlike gruppide ja vaenulike elementidega") ja 5. valitsus (vastuluure erilist tähtsust omavatel riiklikel objektidel) ja 6. valitsus ning valitsuste isikkoosseis liideti NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 2. Peavalitsusega; NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 3. Peavalitsus reorganiseeriti NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee 3. valitsuseks;
NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Uurimisvalitsus, reorganiseeriti NSV Liidu Ministrite Nõukogu juures asuva Riikliku Julgeoleku Komitee Uurimisosakonnaks
1966. aasta 15. novembril loodi pärast Ungari ülestõus 11. osakond, (tegevuse koordineerimiseks sotsialismimaade julgeolekuasutustega).
1969. aasta 13. märtsil loodi 15. valitsus (NSV Liidu riigi juhtkonna jaoks ettenähtud tuumapommivarjendite ja kaitseobjektide teenindamiseks) ja Valitsusside osakond reorganiseeriti Valitsusside valitsuseks;
26. november loodi RJK sidebüroo kontaktideks ajalehtede ja ajakirjade toimetuste ning teiste massiteabevahenditega ("Бюро связи КГБ с издательства-ми и другими средствами массовой информации"/ "Пресс-бюро КГБ");
1973. aasta 21. juunil moodustati 16. valitsus (elektrooniline luure);
1974. aasta 16. augustil reorganiseeriti 15. valitsus 15. peavalitsuseks;
1976. aastal moodustati NSV Liidu liiduvabariikide ning haldusüksustses (linnades ja rajoonides) täiendavalt 2000 täiendavat RJK piirkondlikku asutust ning suurendati RJK isikkoosseisu «2250 ametikoha võrra, sealhulgas 1750 ohvitseri, 500 seersandi ja vabapalgalise võrra. Uutest ametikohtadest 100 loodi keskaparaadis ning täiendavalt eraldati RJK asutustele 250 sõiduautot, millest 10 eraldati keskaparaadile».
NSV Liidu MN j.a. RJK Kõrgem Kool (Высшая школа КГБ при Совете министров СССР), Moskvas. 1962. aastast F. Dzeržinski nimeline Kõrgem kool.
NSV Liidu MN j.a. RJK kool nr 101, 1968. aastast MN j.a. RJK Instituut, Moskva lähedal;
NSV Liidu MN j.a. RJK kool nr 201 (territoriaalorganite ja vastuluuretöötajate ettevalmistamine), Gorkis, mis tegutses kuni 1960. aastani;
NSV Liidu MN j.a. RJK 1-aastase õppeajaga kool nr 204, Kiievis, Ukraina NSV-s, mis reorganiseeriti 1969. aastal MN j.a. RJK Kursusteks;
NSV Liidu MN j.a. RJK 1-aastase õppeajaga kool nr 302 Minskis, Valgevene NSV-s (Высшие курсы КГБ по подготовке оперативных работников для территориальных органов госбезопасности[3]), mis 1964. aastal muudeti MN j.a. RJK Kõrgemateks kursusteks;
NSV Liidu MN j.a. RJK 2-aastase õppeajaga kool nr 303, Vilniuses, Leedu NSV-s, mis tegutses kuni 1959. aastani;
NSV Liidu MN j.a. RJK 1-aastase õppeajaga kool nr 305, Tbilisis, Gruusia NSV-s, mis reorganiseeriti MN j.a. RJK Kõrgemateks kursusteks
NSV Liidu MN j.a. RJK kool nr 311, Novosibirskis, mis reorganiseeriti 1974. aastal MN j.a. RJK Kõrgemaks sõjaväevastuluurekursusteks (Высшие курсы военной контрразведки);
NSV Liidu MN j.a. RJK kool nr 401, Leningradis, mis reorganiseeriti 2-aastase õppeajaga MN j.a. RJK Kõrgemateks kursusteks (varjatud jälgimisega tegelevatele töötajatele)