O'Carolan nacque in Irlanda a Nobber, nella contea di Meath, e all'età di 14 anni si spostò con la sua famiglia a Ballyfarnan, nella contea di Roscommon, dove suo padre andò a lavorare presso la famiglia MacDermott Roe.
La signora MacDermott gli diede un'educazione e lui mise subito in mostra il suo talento poetico. Il vaiolo lo rese cieco all'età di 18 anni. O'Carolan studiò l'arpa per tre anni, poi prese un cavallo e una guida e cominciò a percorrere l'Irlanda da un capo all'altro componendo canzoni per i nobili: avrebbe praticato il mestiere di arpista itinerante per cinquanta anni.
Si sposò con Mary Maguire e si stabilì in una fattoria nei pressi di Mohill, nella contea di Leitrim.
Dal matrimonio nacquero sei figlie ed un figlio.
Di loro si sa poco. Dopo la sua morte, suo figlio pubblicò le sue opere a Dublino e nel 1747 si stabilì a Londra come professore di arpa.
Celebrato già in vita, ma più come poeta che come compositore, morì nella casa del suo benefattore McDermott Roe nel 1738. In ossequio alla sua popolarità, la veglia funebre durò quattro giorni. O'Carolan è sepolto nel villaggio di Keadue, nella contea di Roscommon, dove si tiene il O'Carolan Harp Festival ed una scuola estiva in memoria della sua vita e del suo lavoro.
Musicista e poeta, Carolan in contrapposizione alla pratica dell'epoca in Irlanda, usava scrivere la musica prima dei testi.
Tuttavia Carolan riteneva che la poesia avesse sempre precedenza sulla musica.
Riuscì a combinare molto bene le due grandi correnti musicali dell'epoca, la musica classica e la musica popolare lasciandosi influenzare dalla musica barocca sia di Antonio Vivaldi che di Arcangelo Corelli.
Fu un grande ammiratore di Geminiani che incontrò durante uno dei soggiorni a Dublino del compositore italiano.
Della sua musica è arrivata fino a noi una sola copia, sotto forma di una raccolta di arie con solamente la linea melodica.
Non si sa quindi in quale modo accompagnava o armonizzava le sue composizioni.
Scrisse numerose arie in omaggio ai suoi ospiti e mecenati, che chiamava "planxty".
Il termine è stato ripreso dal gruppo irlandese omonimo, Planxty. Compose circa 220 arie molte delle quali sono suonate tutt'oggi.
Una sezione non datata e non titolata di 23 delle sue opere è conservata alla National Library d'Irlanda.
ed è conosciuta sotto il nome “di composizioni di Carolan„ o anche “estratto Carolan-Delaney„.
Lista completa delle composizioni in ordine alfabetico