Ce groupe s'est formé en1997 et réunit alors un quatuor réunissant Gunnar Orn Tynes et Orvar Smárason, rejoints par les soeurs Gyða et Kristín Anna Valtysdóttir. Les deux premiers ont déjà derrière eux quelques expériences dans divers groupes de rock, les secondes sont issues d'une formation classique. Tous souhaitent oublier les carcans qu'imposent tel ou tel registre musical.
Leurs expérimentations s'orientent cependant davantage vers la musique électronique, avec une pop à la fois douce mais pleine de curiosités sonores, dont la terre Islandaise (génitrice d'ambassadeurs du genre tels que Björk et de Sigur Ros,) est fertile. Leur premier album Yesterday Was Dramatic - Today Is OK sort en 2000 sur le label islandais TMT.
Pour les besoins de sa première tournée, le quatuor accueille de nouveaux musiciens qui intègrent finalement définitivement le projet pour l'enregistrement de Finally We Are No One, album sorti en 2002 cette fois chez Fat Cat Records, le label de Sigur Ros. Puis, l'une des fondatrices, Gyða Valtysdóttir, chanteuse et violoncelliste, quitte le groupe avant la sortie de Summer Make Good, le troisième album de Mùm.
Après de nombreux changements de line-up dont seuls Smárason et Tynes sont les survivants, Mùm publie un live (enregistré en 2002 lors d'une Peel Session sur la BBC 1, avant la mort du célèbre John Peel) et l'album Go Go Smear the Poison Ivy, la même année, en 2007. Sing Along to Songs You Don't Know est le cinquième album de ce qu'il convient de considérer désormais comme un "collectif" musical, et l'un des plus en vue d'Islande.
