Le groupe néerlandais de pop rock se forme en 2008 et sort ce premier album deux ans plus tard. Emmené par les frères Cas et Teun Hieltjes, il propose un rock tirant vers la Britpop des années 90, lui associant des guitares plus abrasives et des chœurs endiablés sur des refrains puissants, dans la veine de Sonic Youth ou The Strokes. Des influences que Go Back to the Zoo absorbent parfaitement, pour en faire ressortir des sonorités enjouées et tourbillonnantes sur « I’m the Night (See You Later) », ou plus légères et mélancoliques sur « Beau Me Up » ou « House On Fire ».