È conosciuto principalmente per il ruolo di Eli Levinson nelle serie televisive Civil Wars e L.A. Law - Avvocati a Los Angeles. Dal 2005 al 2009 è stato Presidente dello Screen Actors Guild, il principale sindacato americano degli attori di cinema e televisione.
Rosenberg è nato e cresciuto a Passaic, nel New Jersey, in una famiglia di ebrei conservatori. Suo fratello Mark è stato un attivista politico negli anni sessanta ed in seguito un produttore cinematografico. Un loro cugino, anche lui di Passaic, è il musicista e cantautore Donald Fagen, cofondatore del gruppo Steely Dan[1].
Dopo una laurea nel 1972 alla Case Western Reserve University ha frequentato un corso di specializzazione alla Yale School of Drama, ma ha abbandonato dopo un anno e mezzo. Durante la sua permanenza nella scuola ebbe come migliore amica e fonte d'ispirazione la compagna di classe Meryl Streep.
È stato sposato in prime nozze con l'attrice Robin Bartlett. Nel 1984, durante le riprese della soap opera I Ryan a New York, ha incontrato l'attrice Marg Helgenberger. Dopo un iniziale periodo di amicizia i due hanno cominciato una relazione nel 1986 e si sono sposati nel 1989. Hanno avuto un figlio, Hugh Howard Rosenberg (nato il 21 ottobre 1990) e il 1 dicembre del 2008 hanno annunciato la loro separazione, che ha portato alla richiesta di divorzio da parte della Helgenberger il 25 marzo del 2009[2].