En 1994, le guitariste américain Michael Romeo enregistre, sous son nom mais avec le claviériste Michael Pinnella, un album intitulé The Dark Chapter. À sa grande surprise, ce modeste essai retient l'attention des fans de metal progressif, notamment au Japon. Michael Romeo décide alors de monter le projet Symphony X et recrute Thomas Miller (basse), Jason Rullo (batterie) et Rod Tyler (chant) pour compléter la formation. Les deux premiers albums de Symphony X, Symphony X (1994) et The Damnation Game (1995) sont des échecs commerciaux. Russell Allen (chant) remplace Rod Tyler entre ces deux premiers albums.
En 1997, Symphony X montre enfin de quoi il est capable avec l'album The Divine Wings of Tragedy, où son heavy metal progressif atteint une plénitude certaine. Le groupe jouit alors d'une popularité réelle en Europe et au Japon. Le groupe est ensuite troublé par les soucis de son batteur Jason Rullo et enregistre sans lui Twilight in Olympus (1998). Cependant, Symphony X effectue cette année-là sa première tournée, qui rend - en priorité - visite aux fans japonais.
Bien nommée, la compilation Prelude to the Millenium (1999) fait un premier bilan de la carrière de Symphony X. Bien qu'ambitieux les albums V: The New Mythology Suite (2000) et The Odyssey (2002) ne satisfont pas entièrement la critique. La formation américaine se découvre avec The Odyssey une nouvelle terre d'accueil en France, où l'album se classe numéro soixante du Top SNEP. De 2003 à 2006, Symphony X se ménage une pause pour permettre à ses membres de réaliser leurs albums en solo.
Ainsi régénéré, Symphony X sort en 2007 le très acclamé Paradise Lost, qui donne au groupe du New Jersey son premier classement au Billboard. Devenu un poids lourd du metal progressif, Symphony X revient en 2011 avec Iconoclast, dont le concept ne s'inspire pas de la mythologie mais des dérives de la technologie. En 2015, Underworld, inspiré par la Divine comédie de Dante (la section The Inferno), délivre entre metal progressif et power metal un son lourd et brut.