Woods studerte musikk saman med Lennie Tristano på The Manhattan Shcool of Music og The Julliard School. På den tida var hovudinstrumentet klarinett. Etter utdanninga fekk han raskt ry som ein framifrå bebopsaksofonist, eit ry som har vakse seg stort. Sjølv om få vil hevde at han kopierte spelet til Charlie «Bird» Parker, vart han etterkvart kjend som den nye Bird.
Frå 1955 arbeidde han i hovudsak med grupper der han sjølv var leiaren, men han har òg samarbeida med artistar som Charlie Barnet, Jimmy Raney, George Wallington, Dizzy Gillespie, Buddy Rich, Quincy Jones, Benny Goodman, Benny Carter, Thelonious Monk, Billy Joel, og Michel Legrand.
Etter å ha flytta til Frankrike i 1968 leia han The European Rhythm Machine, ei gruppe som spelte det ein kan kalle avantgardejazz. Han reiste attende til USA i 1972. Og etter ei mislukka satsing på ei elektronisk gruppe, etablerte han sin eigen kvintett som, med noko utskifte av musikarar, framleis er aktiv (2004).
Phil Woods har spelt inn eit stort tal plater, både som leiar og som sidemann. Dei mest kjende bidraga er kanskje altsoloane på Billy Joel sin «Just the Way You Are» og Paul Simon sin «Have a Good Time».
Phil Woods gifta seg med Chan Parker, enka etter Charlie Parker.
Som leiar
1954: Pot Pie (Prestige)
1955: Woodlore (Prestige)
1956: Pairing Off (Prestige)
1956: The Young Bloods (Prestige) - with Donald Byrd
1957: Four Altos (Prestige) - with Gene Quill, Hal Stein, Sahib Shihab
1957 Phil and Quill with Prestige - with Gene Quill