Nazismo
All Time Low já lançou quatro álbuns de estúdio como uma banda, com a atual formação. A banda assinou seu primeiro registro em 2004, com a gravadora Emerald Moon Records, este foi seguido pelo seu primeiro lançamento, o EP The Three Words to Remember in Dealing with the End. No ano seguinte, eles lançam seu debut álbum The Party Scene, também pela Emerald Moon.
A banda ainda estava na escola quando assinou com a Hopeless Records em 2006. Hopeless lançou a EP Put Up or Shut Up em 2006, que se tornou o primeiro registro da banda a alcançar os índices, com pico no número 20 nos Estados Unidos, pelo Top Independent Albums. Em 2007 eles lançaram seu segundo álbum, So Wrong, It's Right, que se tornou seu maior êxito comercial, atingindo um máximo de número 62 na Billboard 200 e número 6 na Top Independent Albums chart. Seu segundo single do álbum, "Dear Maria, Count Me In", é sua música de maior sucesso, com pico no número 86 sobre a Pop 100.
E seu terceiro álbum, chamado Nothing Personal, foi lançado em 2009 pela Hopeless Records, atingindo o número quatro no Billboard 200.
Hopeless Records, Turnê e o Sucesso
Após algum tempo fazendo shows e se promovendo, os caras assinaram com um selo local chamado Emerald Moon Records. Depois de gravar dois álbuns com esse selo (The Three Words to Remember in Dealing with the End EP em 2004 e The Party Scene em 2005) e fazer shows com grandes bandas como Motion City Soundtrack, Acceptance, Gym Class Heroes, Cartel e The Academy Is…, a banda assinou contrato com a gravadora Hopeless Records, que lançou, em 2006, o EP Put Up or Shut Up. Não demorou muito para que os rapazes fizessem ainda mais sucesso: no mesmo ano de lançamento de Put Up