Éphémère chanteur de Shadows Fall, Philip Labonte se rabat en 2000 sur All Thar Remains après avoir été écarté en raison de divergences musicales. Accompagné du guitariste Oli Herbert, il mène d'abord le groupe sur le chemin du death metal mélodique avec Behind Silence and Solitude en 2002. La route est encombrée et All That Remains ne fait pas vraiment recette. Produit par Adam Dutkiewicz de Killswitch Engage, This Darkened Heart ne fait pas mieux en 2004. All That Remains change alors ses riffs et se dirige vers un metal hardcore plus direct. The Fall of Ideals (2006) traduit cette évolution qui s'accompagne d'un bond de la popularité du groupe.
Bien que les critiques continuent à peu soutenir All That Remains, le groupe s'impose avec Overcome qui pénètre le top vingt américain et canadien en 2008. Le succès de All That Remains s'étend également au Japon et à l'Australie, l'Europe restant sourde à ses appels malgré un frémissement en Grande-Bretagne. For We Are Many (2010) est numéro dix au Billboard et numéro cinq des albums rock. Cette bonne tenue ne satisfait pas entièrement All That Remains que l'étiquette metalcore agace, le groupe se voyant tout simplement comme un groupe de « metal moderne » bien qu'extrême. Quel que soit le style effectivement pratiqué, A War You Cannot Win s'impose comme l'album le mieux abouti de All That Remains en 2012. Une tendance que All That Remains tente de prolonger avec The Order of Things en 2015.
