La diòcesi va ser erigida probablement cap al final del segleiii: l'església d'Orange era de fet present al Concili d'Arle el 314 amb un sacerdot, Faustinus, representant el propi bisbe, el nom del qual es desconeix. El primer bisbe testimoniat històricament és Constanci, que va participar en el concili d'Aquileia del 381. Des del començament del seglev, Orange sembla sufragània de l'arxidiòcesi d'Arle, província eclesiàstica a la que romandria unida fins a la Revolució Francesa.
Entre els segles V i VI es van celebrar dos concilis importants de l'Església de la Gàl·lia a Orange: el primer es va celebrar el 441, on es van aprovar els cànons relatius a la disciplina eclesiàstica; i l'altre el 529, durant el qual es van abordar i sancionar les idees teològiques del semipelagianisme.
A causa dels estralls fets pel sarraïns en el moment de Gregori IV i el bisbe Bonifaci (primera meitat del segleix), la diòcesi de Sant-Paul-Trois-Châteaux es va unir a la d'Orange. La seu resultant va ser separada durant els episcopats de Ponç III i Aldrico, per després ser unit de nou fins al temps del bisbe Guillem, quan Pasqual II, en 1107, va establir la separació definitiva de les dues seus.
Durant la Revolució francesa, 52 religiosos de la Valclusa i de la regió d'Avinyó van ser arrestats a Orange, acusats d'haver volgut destruir la república amb fanatisme i superstició. D'aquests, 32 van ser guillotinats al juliol de 1794, mentre que els altres es van salvar perquè l'ordre d'aturar la massacre va arribar des de París. Els màrtirs d'Aurenja van ser beatificats pel papa Pius XI el 1925.
Al juny de 1817 es va signar un nou concordat entre la Santa Seu i el govern francès, seguit el 27 de juliol per la butlla Commissa divinitus, amb el qual el Papa va restaurar la seu d'Orange. L'1 d'octubre, va ser nomenat com a nou bisbe Paul-Thérèse-David d'Astros. No obstant això, com el concordat no va entrar en vigor, ja que no va ser ratificat pel Parlament de París, aquestes decisions no van tenir efecte i la diòcesi mai va ser restablerta.
Aquest és l nom llatí present a l'Annuario Pontificio; a les fonts citades a la bibliografia, en canvi apareixen els noms Diocesesis Aurasicensis o Dioecesis Arausicensis.
Aquests primers dos bisbes assignats per la Gallia christiana a la seu d'Orange, segons Duchesne haurien estat dos bisbes espuris, fruit de les operacions d'un notari falsari del seglexvii. La tradició atribueix a Orange una sèrie de bisbes, precedents a Sant Luci: sant Eutropi, sant Evranci, Alixit, Auspici, Thiore, Dedono (cfr. J. Bastet, pp. 37-40).