Nativo de Filadelfia, Golson es uno de los sax tenores y compositores más importantes de la era del bebop y el hard bop. Al igual que muchos de sus contemporáneos de género, empezó en grandes bandas como la de Lionel Hampton y Art Blakey. Su oído y capacidad para componer lo convirtieron en un referente no sólo para grupos o artistas en busca de nuevos temas, sino también para crear música para cine y televisión. Es por eso que su propio repertorio está plagado de estándares del jazz como "I Remember Clifford", "Stablemates", "Killer Joe" y "Whisper Not".