Atiyah foi un dos creadores, xunto a Friedrich Hirzebruch, da teoría K topolóxica, unha parte da topoloxía alxébrica. Colaborou con moitos outros matemáticos, entre outros Raoul Bott e Isadore Singer. Con este último formulou o teorema do índice de Atiyah-Singer. Isto levouno a estudar a teoría da representación e as ecuacións da calor sobre as variedades. Sucesivamente interesouse pola teoría de campo de gauge.[3]
Os primeiros traballos de Atiyah sobre xeometría alxébrica (e algúns traballos xerais) están reimpresos no primeiro volume dos seus traballos.[5]
Como pregraduado, estivo interesado na xeometría proxectiva clásica, e escribiu o seu primeiro traballo: unha nota curta sobre cúbicos retortos.[6] Comezou a investigar baixo a dirección de W. V. D. Hodge e ganou o premio Smith de 1954 por un enfoque teórico sobre superficies regradas,[7] que animou a Atiyah a continuar traballando en matemáticas, no canto de cambiar aos seus outros intereses: a arquitectura e a arqueoloxía.[8]
A súa tese de doutoramento con Hodge foi un enfoque teórico de teoría de Solomon Lefschetz das integrais do segundo tipo sobre variedades alxébricas e deu lugar a unha invitación a visitar o Instituto de Estudos Avanzados en Princeton durante un ano.[9] Mentres estaba en Princeton, clasificou paquetes de vectores nunha curva elíptica (estendendo a clasificación de vectores de follas de Alexander Grothendieck nunha curva de xénero 0), mostrando que calquera paquete vectorial é unha suma -esencialmente única- de paquetes de vectores non descompoñibles,[10] e despois mostra que o espazo de paquetes de vectores non descompoñibles de determinado grao e dimensión positiva pode identificarse coa curva elíptica.[11] Tamén estudou puntos dobres nas superficies,[12] dando o primeiro exemplo dun flop, unha transformación birracional especial de 3 dobreces que máis tarde foi utilizada na obra de Shigefumi Mori en modelos mínimos para 3 dobreces.[13] O flop de Atiyah tamén se pode usar para mostrar que a familia marcada universal de superficies K3 é non Hausdorff.[14]
Boyer, Charles P.; Hurtubise, J. C.; Mann, B. M.; Milgram, R. J. (1993), "The topology of instanton moduli spaces" issn=0003-486X volume 137 número 3 px. 561–609 doi 10.2307/2946532 editorial The Annals of Mathematics
Barth, Wolf P.; Hulek, Klaus; Peters, Chris A.M.; Van de Ven, Antonius (2004), Compact Complex Surfaces, Berlin: Springer, p.334, ISBN978-3-540-00832-3
Xel'fand, Israel M. (1960), «On elliptic equations», Russ. Math. Surv. ISBN 0-387-13619-3 Na páxina Xel'fand suxire que o índice dun operador elíptico debe ser expresable ne termos de datos topolóxicoas.
Matsuki, Kenji (2002), Introduction to the Mori program, Universitext, Berlín, Nova York: Springer-Verlag, ISBN978-0-387-98465-0, MR1875410
Palais, Richard S. (1965), Seminar on the Atiyah–Singer Index Theorem, Annals of Mathematics Studies, S.l.: Princeton Univ Press. Describe a proba orixinal do teorema do índice. (Atiyah e Singer nunca publicaron a proba orixinal eles mesmos, senón só versións melloradas.)