Początkowo Bastille było projektem indywidualnym wokalisty Dana Smitha, który wciąż pozostaje niekwestionowanym liderem i twarzą formacji.
Pierwsze piosenki powstały jesienią 2010 roku w Londynie, jednak to rok 2011 przyniósł pierwsze sukcesy – m.in. publikację video do kawałka „Flaws” i cover utworu „What Would You Do” City High, które zwróciły uwagę mediów i słuchaczy na całym świecie.
 Doskonałe indie-popowe, podszyte elektroniką, a momentami ocierające się również o etniczne brzmienia piosenki zaowocowały m.in. zaproszeniem Bastille na wspólną trasę przez formację Fenech-Soler.
Wśród swoich największych inspiracji Smith wymienia m.in. Reginę Spektor, Bjork, Bon Ivera czy Kate Bush.

Polskiej publiczności Bastille znane jest przede wszystkim dzięki przebojowemu singlowi „Pompeii” z debiutanckiego albumu „Bad Blood”.
Obecnie skład zespołu tworzy czterech muzyków: Dan Smith, Chris Wood, Will Farquarson i Kyle Simmons.