Madder Rose se formó en 1991 en un apartamento de Greenwich Village por el guitarrista y compositor Billy Coté y la vocalista Mary Lorson. Las primeras colaboraciones del dúo dieron lugar al LP Bring It Down en 1993, seguido por el álbum Panic On en 1994, que incluía el single "Car Song", y logró un puesto en el Festive Fifty de John Peel. Los siguientes lanzamientos incluyeron Tragic Magic (1997) y Hello June Fool (1999). Tras un parón de 20 años, el grupo publicó To Be Beautiful en septiembre de 2019 y No One Gets Hurt Ever en 2023, ambos en Trome Records. A lo largo de su carrera, Madder Rose realizó numerosas giras, incluida una aparición en el escenario principal del Festival de Reading de 1993, y colaboró con artistas como Kathy Ziegler, contribuyendo con partituras a What Remains: La vida y obra de Sally Mann.
