Альбом «My Aim is True» вышел в 1977 году и почти автоматически был занесен в ряд ярких панк-дебютов — вместе с первыми записями Sex Pistols и The Clash. На самом же деле, Элвис Костелло предстал здесь абсолютно самобытным артистом, затрагивающим панк-рок лишь по касательной. Тексты его песен, как правило, более остроумны и изобретательны, чем у известных бунтарей, а музыка покоряет разнообразием: от ретро-флэшбэков в духе Бадди Холли до регги «Watching the Detectives».