El grupo se creó en San Jose, California, en 1994 con el vocalista Steve Harwell, guitarrista Greg Camp, bajista Paul De Lisle y batería Kevin Coleman. Tras una actuación en un festival de verano con No Doubt y Beck, la banda tuvo un debut espectacular en 1997 con Fush Yu Mang, álbum doble platino en el Top 20 con el exitoso nº1 Modern Rock Walkin' On The Sun y el Top 30 Modern Rocker Why Can't We Be Friends (también incluido en la banda sonora BASEketball).

En 1999 el álbum triple platino Astro Lounge entró en el Top 10 gracias al pegadizo tema All Star.

En 2001 se unió el batería Michael Urbano, la banda aportó su toque ska-punk garage a la versión archiconocida de Monkees del tema de los años 60 de Neil Diamond I'm A Believer que se descubrió como un éxito pop en la película Shrek y en el álbum Smash Mouth, que entró en el Top 50.

En 2003 vuelven con un nuevo disco Get the picture?.

En 2005 publican disco recopilatorio, All Star Smash Hits, y nuevo disco de inéditos Old habits.

En 2021 Steve Harwell deja la banda. Fallece en 2023.