A Madách Gimnáziumban tanult, de az utolsó osztályból kimaradt, és nem érettségizett le. Első novellája 1937-ben jelent meg a Magyarság című lapban. A második világháború után sporttudósítóként tevékenykedett, majd az Újhold című folyóirathoz csatlakozott.
1949–55 között nem publikálhatott. Ezekben az években „átírásokból” élt: a Magyar Rádiónál dolgozott dramaturgként, mások gyermekhangjátékait javítgatta, és amikor „felkérték”, vidéki filmklubok bevezetőit tartotta, vagy irodalmi előadásokat kórházakban, nőgyűléseken, iskolákban, de akár az állatkertben is.
A Népművészeti Intézet munkatársaként lektori véleményeket írt, kéziratokat javított, szerkesztett. Eltávolítása után, 1954-től szabadfoglalkozású íróvá lett. 1967-ben megnősült. 1989-től a Holmi szerkesztője, 1991-től a budapesti magisztrátus tagja lett, 1992-től a Széchenyi Irodalmi és Művészeti Akadémia elnöki tisztségét vállalta el.
Műveinek világát meghatározta a környezet, amelyben élt: a Teleki és a Mátyás tér környéke, a kisemberek, a lecsúszottak, a társadalom elesettjeinek világa. Első önéletrajzi ihletésű regényeiben (Franciakulcs, 1948; A huszonegyedik utca, 1948) a gyermekkori tapasztalatok, emlékek válnak regénnyé: a lődörgők, a kétes egzisztenciák világa egy kamaszfiú tudatán átszűrve, impresszionista képekben jelenik meg. Ábrázolásmódja mind merészebben szakadt el a közvetlen realitástól a szürreális, illetve az abszurd felé. Az 1950-es és az 1960-as évek regényeiben a jellegzetes figurák új árnyalatokkal gazdagodtak, és mítosszá kerekedtek. A régi mozik, presszók, uszodák, tribünök, futballpályák alkotják a „Mándy-univerzumot”.
Az 1950-es években hallgatásra ítélt író rögzítette a félelem és rettegés éveinek nyomasztó hangulatú mindennapjait (Fabulya feleségei, 1959; Előadók, társszerzők, 1970). Írásaiban nőtt a fantasztikus, irreális mozzanatok és a képzelet szerepe. Gyakran jelenik meg formateremtőként az álom is (Egy ember álma, 1971; Álom a színházról, 1977).
Az 1960-as években az író új tájékozódását jelezték a Vera-novellák, középpontjukban egy fiatal lánnyal, a beatnemzedék jellegzetes képviselőjével (Mi van Verával?, 1970). Az 1970-es évek végétől figyelme a tárgyak, a dolgok felé fordult. Műveiben a modern nagyvárosi ember szorongását, magányát szólaltatta meg. Magányos hőseinek groteszk, mégis hősi küzdelme a valósággal a hűség és a részvét erkölcsi parancsára figyelmeztet.
Gyermekkönyvei is klasszikussá váltak (Csutak-sorozat, 1956–68). A novella megújítója, az idő- és térviszonyokat az elbeszélésben felszabadította a hagyományos ábrázolás kötelmei alól, részben a film módszereit (vágások, áttűnések), részben a lírai ábrázolás eszközeit használta az epikában (képek). A Csutak és a szürke ló című regényt 1959-ben írta, ebből 1961-ben azonos címmel film is készült.
Életében megjelent kötetei
A csőszház. Kisregény; Egyetemi Ny., Bp., 1943 (Diárium könyvtár)
Az enyedi diák. Ifjúsági regény; Forrás Ny., Bp., 1944
Francia kulcs; Új Idők, Bp., 1948 (A világirodalom dekameronja)
A huszonegyedik utca. Regény; Új Idők, Bp., 1948
Vendégek a Palackban. Elbeszélések; Új Idők, Bp., 1949
Ciklon. Válogatott novellák; szerk., tan. Darvasi Ferenc; Magvető, Bp., 2018
"Szeretve tisztelt főcsatár". Mándy Iván válogatott levelezése; vál., sajtó alá rend., utószó, jegyz. Darvasi Ferenc; Magvető, Bp., 2018
Sándor Pál: Régi idők focija. Mándy Iván A pálya szélén című műve alapján; összeáll., szerk. Márkus István; Csorba Győző Könyvtár, Pécs, 2019 (Könyvtármozi füzetek)
Mándy Iván művei (1984–1993)
Mándy Iván művei; Magvető, Bp., 1984–1993
Lélegzetvétel nélkül; 1984
Francia kulcs / A huszonegyedik utca / A pálya szélén. Regények; 1985
Mi az, öreg? / Zsámboky mozija / Régi idők mozija; 1986
Előadók, társszerzők / Mi van Verával? / Arnold, a bálnavadász; 1987
Egy ember álma / Álom a színházról / A locsolókocsi; 1988
A csőszház / Egy festő ifjúsága / Séta a ház körül / Ha köztünk vagy, Holman Endre; 1990
Csutak színre lép / Csutak és a szürke ló / Csutak a mikrofon előtt / Csutak és Gyáva Dezső; 1993
Forgatókönyvíróként
Csutak és a szürke ló Kézdi-Kovács Zsolttal (1962)
Ki kicsoda a magyar irodalomban? Könyvkuckó Kiadó Budapest, 1999 ISBN9-638157-91-7
Hózsa Éva: A novella új neve. Mándy Iván novelláinak tipológiája és szövegközi értelmezése; Forum, Újvidék, 2003
Sághy Miklós: A fény retorikája. A technikai képek szerepe Mándy Iván és Mészöly Miklós munkáiban; Tiszatáj Alapítvány, Szeged, 2009 (Tiszatáj könyvek)