Klubben har spilt i den russiske toppserien siden den ble startet i 1923. Den har byttet navn fire ganger. Den ble stiftet som IPPV (Militærets eksperimentelle og demonstrielle sportsplass) av militæret og byttet navn i 1928 til CDKA (Den røde armés sportsklubb).
Rett etter andre verdenskrig i 1951 byttet klubben navn enda en gang til CDSA (Den sovjetiske hærs sportsklubb).
I 1957 byttet klubben navn for tredje gang til CSK MO (Forsvarsdepartementets sportsklubb), men det navnet beholdt den ikke lenge, for tre år senere, i 1960 byttet den navn for hittil siste gang til CSKA (Hærens sentrale sportsklubb).
CSKA Moskva har vært en stor klubb, med mange tradisjoner og meritter. De har vunnet den russiske toppserien en rekke ganger.
Europacupspill
Klubben deltok i Mesterligaen i 2003/2004-sesongen. CSKA vant UEFA-cupen i 2004/2005 med 3-1 over Sporting Lisboa. Finalen ble spilt på Sportings hjemmebane, Estadio Jose Alvalade, men det gjorde ikke CSKA mye. Sporting tok ledelsen, men i annen omgang scoret CSKA tre ganger og snudde kampen. Dette var første gang et russisk lag vant en av Europacupene.