Nato a Brooklyn, figlio di Harold Williams e Sylvia Perrineau. I suoi genitori non si sono mai sposati e all'età di sette anni ha ottenuto legalmente il cognome Williams. Ma quando si iscrisse alla Screen Actors Guild era già registrato un Harold Williams, così cambiò il suo cognome con quello materno. È sposato dal 2002 con Brittany Perrineau dalla quale ha avuto tre figlie; Aurora (1994), Wynter Aria (2008) e Holiday Grace (2013).
Nel 1995 recitò nel ruolo di Thomas Cole nel film Smoke con Harvey Keitel. Nel 1996 va ricordata la sua interpretazione di Mercuzio nel film Romeo + Giulietta di William Shakespeare. Successivamente dal 1997 al 2003 si fece notare nella serie televisiva Oz, nella parte del detenuto sulla sedia a rotelle Augustus Hill. Un altro ruolo che lo ha reso celebre è la sua interpretazione di Link, nei film del 2003 di Matrix (Matrix Reloaded e Matrix Revolutions) e nel rispettivo videogioco Enter the Matrix. Dal 2004 al 2010 ha recitato nella serie televisiva Lost nel ruolo di Michael Dawson. Nel 2012 ha recitato nella serie televisiva Sons of Anarchy nel ruolo del magnate della droga Damon Pope.
Perrineau è sposato con Brittany Robinson, ex attrice e modella, dal 2002. Hanno tre figlie, tra cui l'attrice Aurora.
Nelle versioni in italiano delle opere in cui ha recitato, Harold Perrineau è stato doppiato da:
Fabrizio Vidale in Law & Order - I due volti della giustizia, The Best Man, Lost, 28 settimane dopo, Solo per vendetta, Snitch - L'infiltrato, The Best Man Holiday, Constantine, Claws, The Good Doctor
Pino Insegno in Matrix Reloaded, Matrix Revolution, Z Nation
Nanni Baldini in Blood & Wine, CSI - Scena del crimine, Zero Dark Thirty
Simone Mori in The Unusuals - I soliti sospetti, 30 giorni di buio II
Wikimedia Commons contiene immagini o altri file su Harold Perrineau
