Dal Kentucky, dove nasce nel 1930, ha diviso la propria carriera tra l'Ohio, la capitale Washington, Baltimora e, naturalmente, Nashville. Ha cantato come solista, in duo con Frank Wakefield e come parte di gruppi come gli Osborne Brothers, i Kentuckians e quello costituito dai suoi quattro figli, gli Allen Brothers. Al country ha lasciato brani connotati da una voce cruda e blues e un'immagine di sé da autentico "monello" del genere.