Influenciados tanto pela música popular Africana como pela música clássica Western, descrevem o seu género de música como Upper West Side Soweto.
Os membros da banda conheceram-se na Universidade de Columbia, e produziram o seu primeiro albúm depois de acabarem o curso e enquanto tinham empregos a tempo inteiro. O vocalista Ezra Koenig e o baterista Chris Tomson foram membros duma banda de comedy-rap "L'Homme Run".
Em 2007, o terceiro single Cape Cod Kwassa Kwassa, ficou em 67º lugar na lista das 100 melhores canções da Rolling Stone. Em Novembro deste ano, foram em digressão com os The Shins no Reino Unido.
A Revista Spin considerou-os Banda Revelação na sua edição de Março de 2008 e foram a primeira banda a aparecer na capa desta antes de lançarem o seu primeiro albúm.
