Gimė Bergene. Skambinti fortepijonu Grygą mokė motina. 1858 m. jis susipažino su legendiniu Norvegijos smuikininku Ole Bull. Bull’is pastebėjo jaunuolio talentą ir įtikino tėvus išsiųsti jį į Leipcigo konservatoriją. Konservatorijoje Grygas daugiausia dėmesio skyrė fortepijonui. Jam nepatiko konservatorijos disciplina, tačiau sekėsi gerai. 1860 m. išgyveno po sunkios plaučių ligos. Kitamet debiutavo kaip pianistas Švedijoje. 1862 m. baigė studijas Leipcige ir pirmąkart koncertavo Bergene.
1863 m. trejiems metams apsigyveno Kopenhagoje. 1867 m. vedė pusseserę Niną Hagerup. Po metų jiems gimė dukra Aleksandra. 1869 m. ji mirė nuo ligos.
1868 m. Ferencas Listas, dar niekad nematęs Grygo, padėjo jam gauti paramą kelionėms. Jiedu susitiko Romoje 1870-aisiais. Listui paliko įspūdį Grygo pirmoji sonata smuikui, koncertas fortepijonui (kurį Listas čia pat perskaitė iš lapo).
1876 m. Grygas parašo muziką Henriko Ibseno dramos „Peras Giuntas“ pastatymui. Daug pjesių iš šio ciklo išpopuliarėjo kaip orkestrinės siuitos, buvo aranžuotos fortepijonui.
Grygas mirė 1907 m. po ilgos ligos. Su kompozitoriumi atsisveikinti į gatves išėjo tūkstančiai jo gimtojo miesto gyventojų. Jo ir žmonos pelenai palaidoti kalnuose, netoli jo namų.
Grygas įkvėpimo sėmėsi iš norvegų liaudies muzikos. Iš ankstyvųjų darbų paminėtina simfonija ir sonata fortepijonui. Taip pat parašė tris sonatas smuikui su fortepijonu, trumpų pjesių fortepijonui. Kartais vadinamas „šiaurės Šopenu“.
Iš muzikos dramai „Peras Giuntas“ ypač žinomos dalys yra „Rytas“, „Kalnų karaliaus oloje“, „Solveigos daina“,“ „Anitros šokis“. Populiarus Grygo koncertas fortepijonui a – moll, „Holbergo siuita“ styginių orkestrui.