Luton Town bildades genom en sammanslagning av Luton Wanderers och Luton Excelsior och var en av klubbarna som grundade Southern League 1894. Man ansökte om medlemskap i The Football League 1896, och gick med i ligan året efter. Första säsongen i ligan, 1897/98, slutade med en åttondeplats i division två. Det blev inga större framgångar de första åren, och år 1900 drog man sig ur ligan för att åter gå med i Southern League. 1905 flyttade man till sin nuvarande hemmaarena Kenilworth Road.

1920 gick klubbarna i Southern League, inklusive Luton Town, upp i The Football League och bildade division tre. Luton kom att tillbringa sjutton säsonger i trean, innan man säsongen 1936/37 vann division tre södra och gick upp i division två. 1955 kom man på andra plats i division två och första säsongen i division ett slutade med en tiondeplats. 1959 gick Luton till final i FA-cupen, där det blev förlust mot Nottingham Forest. Säsongen 1959/60 slutade med nedflyttning till division två efter att laget kommit sist i tabellen. Under 1960-talet upplevde klubben en tung period. 1963 kom man sist i division två och två år senare åkte man ner i division fyra.

Klättringen uppåt i seriesystemet började 1968, då man vann division fyra. Två år senare tog Luton steget upp i division två. Klubben spelade i tvåan under många år, men säsongen 1974/75 gjorde man ett besök i högstadivisionen. 1982 vann man division två under tränaren David Pleats ledning. Luton kom att spela i division ett tio år i rad innan man 1992 blev nedflyttade. Säsongen 1986/87 slutade Luton på sjunde plats i division ett. I maj 1987 tog Ray Harford över som tränare efter John Moore. Under Harfords första säsong, 1987/88, tog Luton sin första cuptitel när man besegrade Arsenal med 3–2 i ligacupfinalen på Wembley. I januari 1990 fick Harford sparken, då Luton kämpade för att hänga kvar i division ett.
Jim Ryan tog över efter Harford, men fick sparken efter 16 månader, trots att man lyckades undvika nedflyttning säsongen 1990/91. David Pleat anställdes som manager för andra gången, men Luton åkte ner i nya division ett och har inte spelat i högstadivisionen sedan dess. Pleat blev kvar i klubben fram till 1995, då han tog över Sheffield Wednesday. Hans efterträdare Terry Westley fick sparken i december 1995, och Luton kom sist i division ett.

Lennie Lawrence fick sparken som manager efter säsongen 1999/2000. Inte heller Ricky Hill kunde föra Luton till några framgångar, varför han fick sparken i januari 2001. Joe Kinnear tog över, men kunde inte förhindra att klubben åkte ner i den lägsta divisionen i ligan för första gången på över 30 år. Kinnear lyckades dock föra upp Luton i division två, och säsongen 2002/03 kom man på nionde plats. Sommaren 2003 fick Kinnear sparken av klubbens nya ägare, som anställde den förre spelaren Mike Newell som manager. Newell ledde laget till en tiondeplats i division två säsongen 2003/04, vilket var en positiv överraskning. Inför säsongen 2004/05 bytte division två namn till Football League One. Luton vann serien och tog steget upp i The Championship. Första säsongen i The Championship imponerade man stort och slutade på en stark tionde plats. 2006/2007 så slutade man dock sist och trillade ur The Championship. Säsongen 2007/2008 fick man dock inleda med 10 minuspoäng man lyckades inte resa sig efter denna smällen och slutade sist i serien på ynka 33 poäng.

Inför säsongen 2008/2009 var man så långt nere i seriesystemet som i League 2 där man slutade så dåligt som på en 16 placering, men på grund av den skrala ekonomin tilldömdes man inte mindre än 30 minuspoäng vilket medförde att man slutade klart sist och inför säsongen 2009/2010 är man tillbaka i amatörserien.