En 1996, Matt Skiba, originaire de McHenry près de Chicago, ancien batteur de Jerkwater, décide de changer de rôle et de donner de la voix. Il crée Alkaline Trio et devint guitariste, puis recrute Glenn Porter, batteur ancien membre de 88 Finger Louie, et Rob Doran à la basse. Les chansons du groupe tournent déjà autour de thématiques qui resteront récurrentes : rage, amours torturées, fatalité et alcool, même si le regard de Skiba, principal auteur-compositeur, a eu tendance à évoluer, la maturité aidant.
Cette première mouture du groupe enregistre l'EP For Your Lungs Only en 1997, avant que le bassiste Dan Andriano ne remplace Rob Doran. Le premier album, déjà attendu par une base de fans de l'Illinois, sort en 1998 et s'intitule Goddamnit!. Il est suivi en 2000 par Maybe I'll Catch Fire. Tous deux paraissent sous le label indépendant Asian Man Records.
Avant que le groupe ne rejoigne la maison de disques californienne Vagrant Records à l'aube des années 2000, un recueil de singles intitulé du nom du groupe paraît en 1999. L'année suivante, le départ du batteur Glenn Porter est compensé par Mike Felumlee pour l'enregistrement de From Here to Infirmary (2001).
Pour recharger ses batteries ainsi que celles du public, Alkaline Trio enregistre deux « spit albums », illustrant sa rencontre entre deux formations. Le premier avec les acolytes du groupe punk de Floride Hot Water Music, en 2000, et le second avec les Californiens de One Man Army, en 2004. Entre temps sort un album plus punk pop, Good Mourning (2003), enregistré avec le nouveau batteur Derek Grant, qui permet au trio d'accéder au grand public après plusieurs années passées dans le circuit indépendant.
Il s'ensuit alors une période de va-et-vient entre plusieurs maisons de disques, au cours de laquelle Vagrant Records publie Remains (2007), une compilation de vingt-deux titres (raretés et faces B), échappés de séances publiques ou en studio. Pour fêter son nouveau contrat avec la major Epic et ses dix années d'existence discographique, Alkaline Trio enregistre l'album Agony & Irony (2008), qui se classe numéro 13 du Billboard 200, sa meilleure position en terme de ventes, ainsi que pour le single « Help Me » (n°14 du classement alternatif).
Malgré ce succès, le groupe reprend son indépendance et signe avec Epitaph via son propre label Heart & Skull, l'étiquette sous laquelle paraît en 2010 This Addiction, qui célèbre le retour à la production de Matt Allison. L'année suivante sort un album de ré-enregistrements des meilleurs titres en version acoustique, intitulé Damnesia. Deux ans après suit le nouvel album My Shame Is True (2013), produit par Bill Stevenson (The Descendents).
Le trio fait ensuite une pause pour permettre à son chanteur d'assurer l'intérim au sein du groupe Blink-182, le temps de l'enregistrement de l'album California. De retour en fin d'année 2017, Alkaline Trio reprend le chemin des studios pour enregistrer son neuvième album. Une opération à la gorge de Matt Skiba interrompt les séances de Is This Thing Cursed?, qui sort en août 2018 et marque le vingtième anniversaire de la formation rock et punk.