Haitink nacque ad Amsterdam e studiò musica nel conservatorio della sua città. Egli iniziò come violinista in orchestra prima di cominciare i corsi di direzione d'orchestra sotto Ferdinand Leitner dal 1954 al 1955. Divenne quindi secondo direttore della Netherlands Radio Union Orchestra (Radio Filharmonisch Orkest) di Hilversum nel 1955 e quindi nel 1957 ne divenne direttore principale fino al 1961. Il suo debutto con una grande orchestra avvenne il 7 novembre 1956 alla guida della massima istituzione musicale olandese, l'Orchestra reale del Concertgebouw di Amsterdam, in sostituzione dell'indisposto Carlo Maria Giulini. Dopo la morte del maestro Eduard van Beinum, il 1º settembre 1959, divenne primo direttore della KCO, e quindi nel 1961 divenne direttore principale, carica che condivise, fino al 1963, con Eugen Jochum. Successivamente divenne l'unico direttore principale fino al 1988. Nel 1999 venne nominato direttore onorario.
Nel Concertgebouw di Amsterdam ha diretto le prime esecuzioni assolute della Sinfonia n. 9 di Henk Badings nel 1960, di "Three Movements" di George Perle nel 1963, di "Bericht aan de Levenden" di Hans Henkemans e di "7 Pauken en een koperorkest" di Géza Frid nel 1965, di "Muziek voor straten en pleinen" di Robert Heppener nel 1970 e del Concerto per viola e orchestra di Al'fred Garrievič Šnitke nel 1986.
Bernard Haitink ha avuto cinque figli dalla prima moglie Marjolein Snijders; il direttore olandese e la sua quarta moglie, la ex violista dell'Orchestra del Covent Garden Patricia Bloomfield, hanno una villa in Svizzera.
Beethoven: The Complete Violin Sonatas, Vol. I - The Violin Romances - Bernard Haitink/Henryk Szeryng/Ingrid Haebler/Royal Concertgebouw Orchestra, 1995 Philips
Mendelssohn & Bruch - Violin Concertos - Itzhak Perlman/Bernard Haitink, 1984 EMI Great Performers of the Century
Messiaen: Quartet for the End of Time - Et Expecto Resurrectionem Mortuorum - Vera Beths/George Pieterson/Reinbert de Leeuw/Anner Bijlsma/Royal Concertgebouw Orchestra/Bernard Haitink, 1995 Philips
Mozart, Così Fan Tutte - Bernard Haitink/London Philharmonic Orchestra, 2008 EMI
Mozart, Don Giovanni - Bernard Haitink/Richard Van Allan/Thomas Allen/Maria Ewing/Elizabeth Gale/Glyndebourne Chorus/Dimitri Kavrakos/Keith Lewis/London Philharmonic Orchestra/John Rawnsley/Carol Vaness, 1984 EMI
Rachmaninov, Piano Concertos Nos. 1-4 - Bernard Haitink/Royal Concertgebouw Orchestra/Vladimir Ashkenazy, 1988 Decca
Rachmaninov, Conc. per pf. n. 2, 4 - Ashkenazy/Haitink/CGO, 1984 Decca
Ravel: Orchestral Music - Boléro - Ma Mère l'Oye - Royal Concertgebouw Orchestra/Bernard Haitink, 1993 Philips
Shostakovich, Shostakovich Edition vol. 2 - Sinfonie n. 1-15, Decca
Shostakovich, Sinf. n. 1, 5 - Haitink/LPO/CGO, 1980/1982 Decca
Strauss R., Five Great Tone Poems - Bernard Haitink/Eugen Jochum/Royal Concertgebouw Orchestra, 1994 Philips
Strauss R., Daphne - Bernard Haitink, 1983 EMI
Strauss R., Der Rosenkavalier - Bernard Haitink,/Dresden State Opera Chorus/Barbara Hendricks/Dame Kiri Te Kanawa/Knaben Kreuzchores/Anne Sofie von Otter/Kurt Rydl/Staatskapelle Dresden, 1991 EMI
Turnage, Some Days - Bernard Haitink/Chicago Symphony Orchestra, 2001 Decca The British Music Collection
Verdi, Don Carlo - Bernard Haitink/Chorus of the Royal Opera House, Covent Garden/Dmitri Hvorostovsky/Elizabeth Norberg-Schulz/Galina Gorchakova/Ildebrando d'Arcangelo/Olga Borodina/Richard Margison/Robin Leggate, 1997 Philips
Wagner, Tannhäuser - Bernard Haitink, 1985 EMI
Wagner, Das Rheingold - Bernard Haitink/Symphonieorchester des Bayerischen Rundfunks, 1989 EMI
Wagner, Götterdämmerung - Bernard Haitink/Symphonieorchester des Bayerischen Rundfunks, 2012 EMI
Vaughan Williams: On Wenlock Edge, Fantasia on a Theme By Thomas Tallis - Bernard Haitink/London Philharmonic Orchestra, 2003 EMI