Ferguson studeerde als kind piano en viool. Op 9-jarige leeftijd begon hij op de trompet. Toentertijd speelde hij al in een kleine schoolband die optrad bij openbare schoolactiviteiten. De band werd onderwezen door Stan Wood (saxofonist), Roland David en Johnny Holmes. Fergusons oudere broer, Percy, speelde ook voor Holmes als baritonsaxofonist.
In 1943 studeerde hij aan de Communauté métropolitaine de Montréal (CMM), samen met Bernard Baker. Na zijn studie was hij vaak te horen op CBC Radio, met uiteenlopende jazzcomposities die hij zelf schreef en uitvoerde met de groep waarvan hij bandleider was.
Ferguson kwam op het conservatorium tot een eigenaardige ontdekking; hij kon zijn bereik op de trompet uitbreiden tot vier octaven, een uitzonderlijke kwaliteit die hem wereldberoemd zou maken. Waar voor de meeste trompettisten F3/G3 de hoogst haalbare toon is, speelt Ferguson tot de E4 erboven, dat is bijna een octaaf hoger. Naast Ferguson is onder andere ook James Morrison een zogenaamde high blower.
Het is boven de D3 niet meer mogelijk tonen te vormen met de drie ventielen op de trompet. Daarna komt het aan op pure lipspanning. Buitengewone controle en beheersing is vereist om die noten zuiver te doen klinken.
In 1949 verliet Ferguson Canada om zich in de Verenigde Staten te vestigen. In 1950 trad hij toe tot het orkest van Stan Kenton.