Nel 1942, terminate le scuole superiori, si trasferì a New York per frequentare la scuola musicale Juilliard School. La seconda guerra mondiale gli impedì però di completare gli studi: fu chiamato sotto le armi, e fino al 1945 servì in due distinte bande musicali dell'Esercito USA.
Finita la guerra fu chiamato come pianista e arrangiatore nell'orchestra di Glenn Miller, in via di riorganizzazione dopo la prematura scomparsa del grande musicista, avvenuta durante il conflitto. Si innamorò della cantante dell'orchestra, Virginia O'Connor, che sposò nel 1947. Dal loro matrimonio nacquero tre figli.
L'ingresso di Henry Mancini nel mondo del cinema avvenne nel 1952, quando fu assunto nel dipartimento di musica della Universal Pictures. Il successo arrivò al suo secondo lavoro con la casa produttrice: il film La storia di Glenn Miller (1954), basato sulla vita del grande musicista, fece guadagnare a Mancini la sua prima nomination all'Oscar.
I principali successi di Henry Mancini furono legati alla sua lunga e felice collaborazione con il registaBlake Edwards. Il loro primo lavoro insieme fu la serie televisivaPeter Gunn (1958), il cui tema principale, molti anni più tardi, sarà ripreso e inserito nella colonna sonora di The Blues Brothers - I fratelli Blues.
Successivamente Edwards affidò a Mancini la colonna sonora del suo film Colazione da Tiffany (1961): nacque così Moon River, uno dei suoi brani più celebri e amati. Mancini fu premiato con due Oscar. L'anno successivo ottenne un altro Oscar per The Days of Wine and Roses, canzone che dava il titolo all'omonimo film (1962) con Jack Lemmon.
Nel 1964 fu la volta di un altro grande successo internazionale, il tema dellaPantera Rosa, composto da Mancini per l'omonimo film di Edwards, e inserito in tutti i successivi episodi della serie e nei cartoni animati della Pantera Rosa.
Mancini curò inoltre la colonna sonora di Peter Gunn: 24 ore per l'assassino (1967), ancora diretto da Blake Edwards e ispirato alla serie televisiva a cui aveva già lavorato in precedenza.
Mancini venne poi insignito del quarto Oscar per le musiche originali di Victor Victoria (1982), anche questo diretto da Blake Edwards.
Il suo unico musical teatrale è l'adattamento del film che, sempre diretto da Edwards e con Julie Andrews che riprese il suo ruolo cinematografico, debuttò a Broadway nel 1995, poco dopo la morte del compositore.
Altro suo successo da menzionare, è la colonna sonora della miniserie TV Uccelli di rovo, in particolare con il brano Meggie's Theme, di grande impatto emotivo.
Non di minore importanza la colonna sonora del film La grande corsa (The great Race), sempre in collaborazione con Blake Edwards.
In oltre quarant'anni di carriera nel cinema, Henry Mancini firmò le musiche di oltre cento film e vinse quattro Oscar su 18 candidature, a cui vanno aggiunti 20 Grammy e due Emmy. Pubblicò più di 50 album, con oltre 300 milioni di copie vendute in tutto il mondo, e compose oltre 500 canzoni.
Il 13 aprile 2004 gli Stati Uniti hanno emesso un francobollo commemorativo in suo onore da 37 cents, dove Mancini è ritratto mentre dirige davanti ad una platea di spettatori, con la Pantera Rosa che lo indica da un angolo. Sullo sfondo scorrono i titoli dei film più famosi di cui ha curato le musiche.
The Blues and the Beat - Grammy Award for Best Large Jazz Ensemble Album 1961
Baby Elephant Walk (del 1961 dal film Hatari!) - Grammy Award for Best Instrumental Arrangement 1963
Breakfast at Tiffany's: Music from the Motion Picture/Colazione da Tiffany (film) - Prima posizione nella Billboard 200, Grammy Award for Best Score Soundtrack for Visual Media e Grammy Award for Best Performance by an Orchestra or Instrumentalist with Orchestra 1962
The Pink Panther Theme / La Pantera Rosa (film 1963) (singolo) - trentunesima posizione nella classifica Billboard Hot 100 nel 1964, Grammy Award for Best Instrumental Arrangement, Grammy Award for Best Instrumental Composition e Grammy Award for Best Instrumental Performance 1965
How Soon? (singolo) - decima posizione nel Regno Unito nel 1964