Der 1967 in Bristol geborene Hollander wuchs in Oxford auf.[1] Er war im Kindesalter Mitglied des National Youth Theatre.[2] Seine Schwester ist die Regisseurin und Autorin Julia Hollander.
Zusammen mit seinem Sandkastenfreund Sam Mendes studierte er Englisch an der Universität Cambridge. Mendes führte bei vielen dortigen Theaterstücken Regie, in denen Hollander oft Rollen übernahm.[3] Als er nach seinem Abschluss keine Stelle an einer Schauspielschule bekam, nahm er 1994 Mendes’ Angebot an, in dessen Inszenierung der Dreigroschenoper in seinem Theater Donmar Warehouse mitzuwirken.[4] Das war sein Einstieg in die Berufs-Schauspielerei. Seitdem trat er in vielen britischen Theaterinszenierungen in Haupt- und Nebenrollen auf. Auch am Broadway war Hollander zu sehen. Oft übernahm er die Rolle des Schurken.
In den deutschen Fassungen seiner Filme wird er meist von Axel Malzacher synchronisiert.
1992 bekam er den Ian Charleson Award für seine Leistung in Way of the World, das damals im Lyric Theatre in Hammersmith aufgeführt wurde.[5] Zusammen mit dem gesamten Cast bekam er 2002 unter anderem den Screen Actors Guild Award für die Gesamtleistung des Ensembles in Gosford Park[6]. 2005 war er bei den British Independent Film Awards als bester Nebendarsteller für The Libertine nominiert, ging aber leer aus.[7] 2006 bekam er den London Critics’ Circle Film Award für die beste Nebenrolle in Stolz und Vorurteil.[8] Im selben Jahr erhielt er für diese Rolle den Peter Sellers Award for Comedy.[9]