Kernwapens
In 1943 verhuisde Zeldovitsj naar Moskou om er tot oktober 1963 samen met Igor Koertsjatov te werken aan de kernwapens van de Sovjet-Unie. Hij ontwikkelde een theorie van nucleaire kettingreacties.
De Big Bang
Hij was hoofd van de afdeling van het Keldysj Instituut voor toegepaste wiskunde van de Sovjet-Unie van 1965 tot januari 1983.Vanaf 1965 was hij professor in fysica aan de Staatsuniversiteit van Moskou en hoofd van de afdeling relativistische astrofysica van het Sternberg instituut voor astronomie.
Hij werkte aan de theorie van de evolutie van hete universum na de big bang, de eigenschappen van kosmische achtergrondstraling van microgolven, de structuur van het heelal op grote schaal en de theorie van zwarte gaten. Hij voorspelde samen met Rasjid Sjoenjajev, dat de kosmische achtergrondstraling van microgolven-inverse Compton verstrooiing moest ondergaan, het Sjoenjajev-Zeldovitsj-effect. Metingen door de WMAP door Benjamin Bernstein hebben zijn theorie bevestigd.
Zwarte gaten
Hij werkte aan astrofysica en fysische kosmologie en stelde onafhankelijk van Edwin Salpeter dat de accretieschijf rond een zwart gat verantwoordelijk is voor de straling van quasars.
Hij ontwikkelde de theorie van verdamping van zwarte gaten door Hawkingstraling. Zeldovitsj en Aleksander Starobinski toonden Stephen Hawking tijdens zijn bezoek aan Moskou in 1973 dat roterende zwarte gaten door het onzekerheidsprincipe deeltjes moeten doen ontstaan en uitstoten. Stephen Hawking zei hem: "Voordat ik u ontmoette, geloofde in dat u een collectieve auteur was, zoals Nicolas Bourbaki."
Ultrakoude neutronen
In 1977 kreeg hij samen met Fjodor Sjapiro de Koertsjatov-medaille, de hoogste onderscheiding van de Sovjet-Unie voor kernfysica voor de voorspelling van de eigenschappen van ultrakoude neutronen, hun ontdekking en hun onderzoek.
