Le groupe Low éclot en 1993 à Duluth, une commune de l'État du Minnesota qui a vu naître Bob Dylan. Alan Sparhawk, guitariste, et John Nichols, bassiste, jouent ensemble dans le groupe Zen Identity. L'année correspond à l'avènement mondial du grunge grâce à l'explosion de Nirvana. En réaction contre ce phénomène, les deux musiciens décident, d'abord comme une plaisanterie puis sérieusement, de créer un rock sur le principe de compositions minimales et de sons s'étirant sur des rythmes lents. Le duo recrute Mimi Parker, la femme de Sparhawk, aux percussions et au chant et enregistre son premier album, I Could Live in Hope, qui sort en 1994.
La composition du groupe a déjà changé quand paraît Long Division, second album de Low, en 1995. Zak Sally remplace John Nichols à la basse sur ce disque qui entérine la capacité du groupe à créer des ambiances captivantes, puissantes, privilégiant toujours le pouvoir de la mélodie et des instruments sur la technologie. Low devient l'un des chefs de file du courant slowcore américain.
Avec l'album suivant, The Curtain Hits the Cast (1996), Low se fraye enfin une place sur les ondes des « college radios » américaines. Things We Lost in the Fire, aux harmonies soignées, sort en 2001. C'est la première percée commerciale du groupe. L'album a bénéficié de l'investissement du producteur star Steve Albini (pour l'anecdote et l'ironie, ce dernier fut le producteur d'In Utero de Nirvana). La reprise « Little Drummer Boy », extraite de l'album Christmas (2000), est choisie comme bande-son de la publicité pour les magasins GAP au États-Unis, cet hiver-là.
Après les labels Vernon Yard et Kranky, c'est chez Sub Pop (là encore plane l'ombre involontaire de Nirvana) que signe Low. En 2005, The Great Destroyer est publié sur ce label devenu l'un des meilleurs du rock alternatif américain. L'album contient entre-autres les superbes titres « Silver Rider » et « Monkey », repris par Robert Plant sur son album Band of Joy de 2010. Un hommage dans les règles de l'art.
En 2011, après un album inspiré par la guerre en Irak (Drums and Guns, 2007) et de nouveaux changements de bassistes (Zak Sally a été remplacé par Matt Livingston, lui-même remplacé par Steve Garrington), Low revient après quatre ans de pause avec C'Mon, un album plus pop. Il permet au trio, dont la réputation scénique n'a jamais fléchi, de repartir sur les routes. Maître dans son domaine, Low poursuit avec The Invisible Way (2013), produit par Jeff Tweedy (Wilco), et Ones and Sixes, paru en septembre 2015.