James S. Tolkan wurde in der Kleinstadt Calumet, Michigan, als Sohn des Viehhändlers Ralph M. Tolkan geboren. Nach einem Besuch der University of Iowa studierte er Schauspielerei bei Stella Adler in New York.[1] Er arbeitete zunächst hauptsächlich als Theaterschauspieler und war unter anderem 1964 im Drama The Three Sisters zu sehen. Im Fernsehen war Tolkan ab den frühen 1960ern zu sehen, seinen ersten Film Stiletto drehte er im Jahre 1969.
Er etablierte sich in Nebenrollen vor allem als Darsteller von grimmigen und zynischen Charakteren. Oft verkörperte er strenge Autoritätsfiguren wie Armeeoffiziere, Vorgesetzte oder Strafrichter; gelegentlich mimte Tolkan aber auch Figuren von der anderen Seite des Gesetzes, etwa brutale Verbrecher. Der glatzköpfige Charakterdarsteller spielte unter anderem in Sidney Lumets Thriller Serpico (1973) über Polizeikorruption sowie als FBI-Agent im Science-Fiction-Film WarGames – Kriegsspiele (1983). 1975 war Tolkan in Woody Allens Satire Die letzte Nacht des Boris Gruschenko als Napoleon Bonaparte zu sehen.
Seine wohl bekannteste Rolle ist die des strengen Schuldirektors Mr. Strickland, die Tolkan in den ersten beiden Teilen von Zurück in die Zukunft verkörperte. Im abschließenden dritten Film spielte Tolkan die Rolle von Marshal Strickland, dem ebenfalls strengen Vorfahren von Mr. Strickland. Andere erwähnenswerte Rollen spielte er als Tom Cruises Vorgesetzter Stinger in den Anfangsszenen von Top Gun – Sie fürchten weder Tod noch Teufel (1986) sowie in WarGames – Kriegsspiele (1983), Masters of the Universe (1987) und Dick Tracy (1990). Daneben war Tolkan in zahlreichen Gastrollen in beliebten Fernsehserien zu sehen. Eine Fernseh-Hauptrolle hatte er 1985 als Gangster in der kurzlebigen Sitcom Mary mit Mary Tyler Moore. Seine aktuell letzte Rolle übernahm Tolkan 2015 als betrunkener Pianist im Western Bone Tomahawk.
James Tolkan ist seit 1971 mit Parmelee Welles verheiratet und lebt in New York.
