Schimmang wurde als jüngerer von zwei Söhnen geboren. Sein Vater war Stadtkämmerer in Northeim und wechselte 1958 die Stelle, was zum Umzug der Familie nach Leer/Ostfriesland führte. Dort machte er 1967 das Abitur und studierte nach dem Wehrdienst an der Freien Universität Berlin Politikwissenschaft und Philosophie (Abschluss: Diplom).
1979 debütierte er mit seinem autobiografisch gefärbten Roman Der schöne Vogel Phönix als Schriftsteller. In diesen Erinnerungen eines Dreißigjährigen blickt er als zu spät Gekommener auf die 1968er-Studentnebewegung zurück und schildert die Aufbruchstimmung, den Anpassungzwang, den Kader-Gehorsam und die Grabenkämpfe innerhalb der K-Gruppen.[2]
Schimmang ist seit 2000 verheiratet und lebt seit Sommer 2005 mit seiner Frau Sabine in Oldenburg. Vorher hatte er von 1978 bis 1998 in Köln und seit 1999 in seiner Heimatstadt Leer gelebt.[1]
Schimmang war Mitglied im PEN-Zentrum Deutschland bis zu seinem Austritt im Mai 2022. Er ist Mitglied der deutschen Marcel Proust Gesellschaft und der Robert Walser-Gesellschaft. Er war mehrfach mit Autorenlesungen für das Goethe-Institut unterwegs, so 1988 in Nordengland und Nordirland (Belfast), 1996 in den Niederlanden und 2013 in Russland.
Seine teilweise autobiographisch gefärbten Werke, die mit ihrer psychologisierenden Erzählweise der Literatur der Neuen Innerlichkeit zuzurechnen sind, hatten früher häufig das männliche Single-Dasein der Gegenwart zum Thema.
Der schöne Vogel Phönix. Roman. Suhrkamp, Frankfurt am Main 1979, ISBN 3-518-37027-8.
Das Ende der Berührbarkeit. Erzählung. Suhrkamp, Frankfurt am Main 1981, ISBN 3-518-37239-4.
Der Norden leuchtet. Erzählungen. Suhrkamp, Frankfurt am Main 1984, ISBN 3-518-37523-7.
Das Vergnügen der Könige. Erzählungen. Frankfurter Verlagsanstalt, Frankfurt am Main 1989, ISBN 3-627-10055-7.
Die Geistesgegenwart. Roman. Frankfurter Verlagsanstalt, Frankfurt am Main 1990, ISBN 3-627-10056-5.
Carmen. Eine Geschichte. Frankfurter Verlagsanstalt, Frankfurt am Main 1992, ISBN 3-627-10057-3.
Königswege. Erzählungen. Schöffling, Frankfurt am Main 1995, ISBN 3-89561-090-9.
Ein kurzes Buch über die Liebe. Roman. Schöffling, Frankfurt am Main 1997, ISBN 3-89561-091-7.
Vertrautes Gelände, besetzte Stadt. Essay. Schöffling, Frankfurt am Main 1998, ISBN 3-89561-092-5.
Matthias Keidel: Die Wiederkehr der Flaneure. Literarische Flanerie und flanierendes Denken zwischen Wahrnehmung und Reflexion. Königshausen & Neumann, Würnurg 2006, ISBN 978-3-8260-3193-9, S. 149–168.
Thomas Köster: »Die jungen Damen sind schon lange fort«Zum Erzählwerk Jochen Schimmangs. In: Merkur, Band 51, Heft 584, 1997, S. 1039–1044.