Após o término de sua gravadora, a banda voltou às origens e adotou um som indie, ajudando-os a atingir popularidade no Reino Unido e posteriormente internacionalmente. Os membros da banda são torcedores do Leeds United, e resolveram mudar nome da banda inspirando-se no primeiro clube do então capitão do Leeds Lucas Radebe (Kaizer Chiefs Football Club).
O single de estréia, "Oh My God", foi lançado pela Drowned In Sound Records em maio de 2004 e esgotou as vendas em três dias, levando a banda à 66ª posição nas paradas de singles do Reino Unido. Apesar disso, foi o lançamento do segundo single "I Predict a Riot" que levou o grupo às mídias nacional e internacional, atingindo a 22ª posição da mesma parada em novembro.
O DVD Enjoyment foi lançado em novembro de 2005, baseado em um documentário sobre a banda narrado por Bill Nighy.
Também inclui os vídeos promocionais do álbum "Employment" e apresentações ao vivo.
No dia 26 de fevereiro de 2007 foi lançado o novo álbum do Kaiser Chiefs, intitulado "Yours Truly, Angry Mob". Ele traz 13 novas faixas, algumas das quais já haviam sido tocadas ao vivo em shows da banda. O primeiro single é "Ruby", cujo vídeo promocional foi filmado pouco antes do Natal de 2006 e já pode ser visto na internet e televisão.
Em Agosto de 2008, o nome do novo álbum foi confirmado, "Off with Their Heads" que será lançado dia 20 de outubro. O single "Never Miss A Beat" foi lançado dia 06 do mesmo mês. Em novembro vieram ao Brasil, se apresentaram em São Paulo no Planeta Terra Festival como uma das atrações principais.
Um fato curioso, o tecladista Nick "Peanut" Baines teve de ser operado às pressas assim que desembarcou em São Paulo, devido a uma crise de apêndicite e tocou junto com a banda acompanhado de perto por um médico e um enfermeiro.