Nato in Minnesota, Ayres si trasferì nel 1926 a San Diego (California). Intenzionato a diventare attore, si fece scritturare per alcune brevi apparizioni in diversi film. Nel frattempo suonava diversi strumenti nei locali notturni. Dopo essere stato scoperto da un talent manager in un night club californiano, Ayres ebbe la grande occasione di recitare al fianco della mitica Greta Garbo nella pellicola Il bacio (1929). L'anno successivo ottenne il ruolo di protagonista nel celebre All'ovest niente di nuovo (1930) di Lewis Milestone, film che lo consacrò definitivamente come una star. Nel 1938 recitò nella pellicola Il giovane Dr. Kildare, diventando un idolo del genere sentimentale e partecipando a una lunga serie di film dedicati a questo personaggio e prodotti negli anni successivi.
Rispecchiando i suoi ruoli antimilitaristi e dediti a salvare vite altrui, Ayres fu un convinto pacifista e cercò di arruolarsi nella Croce Rossa durante il secondo conflitto mondiale. Non avendo ricevuto il permesso dalle autorità militari, si dichiarò obiettore di coscienza e venne assegnato al Civilian Public Service (CPS). In seguito le autorità militari, preoccupate del discredito che il loro atteggiamento nei confronti di una stella così celebre potesse intaccare l'immagine dell'esercito americano, permisero ad Ayres di servire come paramedico in Nuova Guinea e nella zona di guerra del Pacifico.
Nel 1948 l'attore tornò al cinema e venne candidato all'Oscar come miglior attore protagonista per la sua interpretazione in Johnny Belinda (1948), ma la sua carriera dopo la guerra aveva ormai imboccato la parabola discendente. Nel 1976 Ayres produsse il film documentario Altars of the World, che gli permise di portare sullo schermo le sue credenze religiose legate alla spiritualità orientale, suscitando un enorme interesse da parte del pubblico. Recitò inoltre il ruolo di un politico pacifista nella pellicola Battaglie nella galassia (1978). Nell'ultimo periodo della sua carriera partecipò a diverse serie televisive, tra le quali Mary Tyler Moore Show (1977), nella parte del padre del personaggio interpretato da Gavin MacLeod, e in un episodio di Colombo e La casa nella prateria.
Ayres fu sposato tre volte, dal 1931 al 1933 con l'attrice Lola Lane, dal 1934 al 1940 con l'attrice Ginger Rogers e dal 1964 con Diana Hall, fino alla sua morte ad 88 anni.