Arch Enemy se forme en Suède autour de deux ex-membres de Carnage, le guitariste Michael Amott (ex-Carcass) et le chanteur Johan Liiva, ainsi que Christopher Amott (guitariste et frère du premier) et Daniel Erlandsson (batterie). Cette formation joue sur le premier album The Black Earth en 1996.
De fréquents changements et allers-retours s'opèrent dès le deuxième opus, Stigmata (1997). Il est suivi du plus abouti Burning Bridges (1999), mêlant avec la puissance des deux guitares solo les aspects mélodiques et la tendance grindcore du groupe.
Parti en novembre 2000, Johan Liiva est remplacé par la chanteuse allemande Angela Gossow sur l'album Wages of Sin (2001), suivi deux ans plus tard par Anthems of Rebellion. En novembre de la même année, l'EP Dead Eyes See No Future se consacre à des reprises de Manowar, Megadeth et Carcass et de prises en public faites à l'Elysée Montmatre de Paris.
Christopher Amott fait une pause d'une année et demi après l'enregistrement de Doomsday Machine (2005). Fredrik Akesson assure l'intérim sans toutefois participer à Rise of the Tyrant (2007), avant de rejoindre Opeth. Le DVD Tyrants of the Rising Sun (2008) montre un concert saisi à Tokyo. Sorti à l'automne 2009, The Root of All Evil est constitué de huit morceaux de la première période ré-enregistrés avec Angela Gossow. En 2011, le gang des frères Michael et Christopher Amott retrouve le producteur Rickard Bengtsson (celui de Doomsday Machine) pour un brutal et sauvage Khaos Legions.
Malgré le succès de ce disque, Christopher Amott quitte le groupe en 2012 et est remplacé par Nick Cordle. Plus surprenant, Angela Gossow annonce en mars 2014 qu'elle n'est plus la chanteuse du groupe et en devient le manager. Elle est remplacée par la Canadienne Alissa White-Gluz, qui officiait à ce poste chez The Agonist. C'est cette nouvelle équipe qui travaille à War Eternal, paru en juin 2014.
Le jeu de chaises musicales se poursuit dans la foulée de cette sortie avec l'arrivée de Jeff Loomis, l'ancien guitariste du groupe de metal progressif Nevermore. Engagé dans la foulée de War Eternal, celui-ci participe à la longue tournée qui suit, tandis que les autres membres forment en parallèle le projet Black Earth, qui sort un album homonyme. La tournée commune débouche sur l'album et le DVD As the Stages Burn! (2017), comprenant l'intégralité de la performance au festival de Wacken (2016) et un autre concert capté à Tokyo.
Les cinq membres de Arch Enemy se retrouvent en studio pour l'enregistrement du dixième album Will to Power (2017), qui offre pour la première fois un chant intelligible sur le titre « Reason to Believe ». Après une nouvelle tournée, la même équipe enregistre dans la foulée un album uniquement constitué de reprises : Covered in Blood (2019), avec notamment celle du titre « Shout » de Tears for Fears.