Nato nell'ospedale di Englewood nel New Jersey da genitori presbiteriani originari dell'Oklahoma; Harris crebbe nella confinante Tenafly, città situata sulla sponda occidentale del fiume Hudson all'altezza del quartiere newyorkese di Riverdale nel Bronx. Secondo di tre figli (Paul e Richard), il padre, Robert L. "Bob" Harris (1922–2014), lavorò come cantante nel coro di Fred Waring e bibliotecario presso l'Art Institute of Chicago, mentre la madre, Margaret Sholl, lavorò per un'agenzia di viaggi.
Harris si diplomò alla Tenafly High School nel 1969, dove giocò nella squadra di football e fu capitano negli ultimi anni scolastici. Nello stesso anno si iscrisse alla Columbia University di New York, trasferendosi nel dormitorio di Carman Hall, nel distretto di Manhattan. Partecipò anche alle competizioni di atletica nel suo anno da matricola.
Nel 1971, Harris seguì la famiglia che aveva deciso di trasferirsi nel Nuovo Messico. Iniziò ad interessarsi alla recitazione, prendendo parte a vari spettacoli teatrali e decise di iscriversi all'Università dell'Oklahoma di Norman, per studiare come attore drammatico. Dopo aver interpretato numerosi ruoli di successo nei teatri locali (come il Jewel Box Theater di Oklahoma City), Harris si trasferì a Los Angeles iscrivendosi all'Istituto delle arti della California di Santa Clarita. Frequentò l'istituto per due anni, ottenendo la laurea con il Bachelor of Fine Arts nel 1975.
Nel 1976, Harris cominciò a lavorare in televisione, sostenendo dei piccoli ruoli in dodici diversi telefilm o serie tv tra il 1976 e il 1981, tra questi: Barnaby Jones, The Rockford Files, CHiPs e Lou Grant.
L'anno successivo, nel 1982, Romero lo ingaggiò nuovamente per il film dell'orrore Creepshow, dove interpretò uno degli ospiti nella casa, nel segmento Father's Day. Nel 1983 interpretò John Glenn, uno dei sette valorosi astronauti di Uomini veri di Philip Kaufman e nello stesso anno partecipò nel ruolo "Oates" al film drammatico Sotto tiro di Roger Spottiswoode.
Nei restanti anni 80 prese parte ad altre nove pellicole, tra le più importanti Alamo Bay di Louis Malle (1985), in cui interpretò un texano reazionario, Jacknife di David Hugh Jones (1989), con Robert De Niro, dove è un disilluso reduce del Vietnam, The Abyss di James Cameron (1989), film di fantascienza in cui assunse il ruolo da protagonista.
Nel 1995 interpretò il direttore di volo della NASA, Gene Kranz, nel film Apollo 13 di Ron Howard, che gli valse la prima candidatura agli oscar. Recitò poi in The Rock di Michael Bay (1996), Potere assoluto di Clint Eastwood (1997) e The Truman Show di Peter Weir (1998), per cui venne premiato con il Golden Globe come miglior attore non protagonista e ricevette la seconda candidatura agli oscar nella stessa categoria. Nel 2000 Harris si cimentò per la prima volta alla regia con il lungometraggioPollock in cui ricostruì la vita e la carriera del pittore statunitense Jackson Pollock, da lui stesso interpretato accanto a Marcia Gay Harden e Jennifer Connelly. Per l'interpretazione in Pollock, Harris ricevette la prima candidatura agli oscar come miglior attore protagonista. Nel 2001 tornò a lavorare con Ron Howard alla regia, nel film A Beautiful Mind e nel 2003 ricevette la quarta candidatura agli oscar per il film del 2002 The Hours, diretto da Stephen Daldry.
Harris conobbe sul set di Le stagioni del cuore l'attrice Amy Madigan, che sposò il 21 novembre 1983. La coppia ebbe una figlia, Lily, nata nel 1993.
Nelle versioni in italiano delle opere in cui ha recitato, Ed Harris è stato doppiato da:
Luca Biagini in The Abyss, La prossima vittima, Buffalo Soldiers, The Hours, Gone Baby Gone, Il mistero delle pagine perdute - National Treasure, Appaloosa, Oltre la legge, 40 carati, Snowpiercer, Sweetwater - Dolce vendetta, In Dubious Battle - Il coraggio degli ultimi, L'eccezione alla regola, Madre!, Geostorm, Era mio figlio, Resistance - La voce del silenzio, La figlia oscura, Top Gun: Maverick
Rodolfo Bianchi in Il cuore nero di Paris Trout, The Rock, La macchia umana, Empire Falls - Le cascate del cuore, Cleaner, Game Change, Pain & Gain - Muscoli e denaro, The Face of Love, Frontera, Westworld - Dove tutto è concesso
Antonio Sanna in China Moon - Luna di sangue, La giusta causa, Apollo 13, Nemiche amiche, Pollock, Mi chiamano Radio