La tradizione ne fa risalire l'istituzione al XII secolo e ne attribuisce l'istituzione a Canuto VI, che avrebbe voluto così celebrare l'uccisione di un elefante da parte di un cavaliere danese durante le crociate.
L'ordine venne in realtà fondato nel 1462 da Cristiano I ed approvato nel 1474 da papa Sisto IV: i suoi statuti ne limitavano l'assegnazione a trenta cavalieri che avessero già militato nell'Ordine del Dannebrog. Dopo l'adesione della Danimarca alla confessione evangelica, la professione del credo luterano divenne requisito essenziale per il suo conferimento.
I suoi statuti sono stati riformati nel 1958: comprende un'unica classe e viene, di regola, conferito solo ai membri della casa reale danese ed ai capi di Stato e di governo stranieri.
Il collare dell'ordine è in oro. Esso consiste in elefanti e torri alternate. Ogni elefante è ricoperto da una sella sulla quale si trova la lettera "D" per Dania, il nome latino medioevale della Danimarca. Secondo gli statuti dell'Ordine, il collare può essere solo indossato durante il primo giorno dell'anno ed il giorno del compleanno del monarca.
La medaglia dell'Ordine consiste in un elefante in oro smaltato di bianco con delle briglie blu. La scultura è alta circa 5cm. Sul dorso l'elefante porta una torre smaltata di rosso circondata in due punti da un anello d'oro e diamanti. Di fronte alla torre e dietro la testa dell'animale si trova un moro seduto che tiene uno scettro d'oro; sul fianco dell'elefante si trova una croce d'oro con cinque grandi diamanti, mentre sull'altro lato vi è il monogramma del sovrano regnante.
La stella dell'Ordine consiste in una stella raggiante ad otto punte al centro della quale si trova un disco smaltato di rosso, circondato da una corona d'alloro in argento.
Il nastro è azzurro.
Secondo gli statuti alla morte di ogni insignito, i gioielli devono fare ritorno all'Ordine. La sola eccezione nota a questa politica riguarda le insegne di Dwight Eisenhower. Le sue sono in mostra nella sua biblioteca presidenziale.
Julius Nyerere, Presidente della Repubblica di Tanzania (1970)
Josip Broz Tito, Presidente della Repubblica Socialista di Jugoslavia (1974)
Hosni Mubarak, Presidente della Repubblica Presidenziale dell'Egitto (1986).
Oscar Luigi Scalfaro, Presidente della Repubblica Italiana dal 1992 al 1999 (1993).
Nicolae Ceaușescu, Presidente della Repubblica Socialista di Romania (revocato).
Quest'ultimo è stato l'unica persona insignita dell'Ordine dell'Elefante danese a cui lo stesso sia stato revocato. Ciò accadde il 23 dicembre 1989, quando S.M. la regina Margherita II ordinò che l'onorificenza venisse restituita alla Danimarca e che il nome di Ceauşescu fosse cancellato dagli albi ufficiali. È morto due giorni dopo.