Originaire de Bergen, en Norvège, Ejrik Glambek Boe et Erlend Oye sont deux adolescents qui tentent de tromper l'ennui en composant des ballades acoustiques folk à deux voix sous le nom de Kings of Convenience.
Sans avoir sorti d'album, le duo commence par se faire repérer lors de passages dans des festivals, proposant une musique intimiste et épurée proche de celle de Nick Drake ou de Simon and Garfunkel. Leur source d'inspiration principale provient des grands paysages nordiques. Lors d'un séjour à Manchester, ils rencontrent Damon Gough alias Badly Drawn Boy, très réceptif à leur musique.
Peu de temps après, les Kings of Convenience sont signés sur la branche londoniennee du label Source et sur Kindercore aux Etats-Unis. Ils publient un EP Winning a Battle, Losing the War, enregistré à Liverpool, puis un premier album, Quiet is the New Loud, en 2001 (avec notamment «Toxic Girl », « I Don't Know What I Can Save You From » - qui sera remixé par Royksopp - et « Failure »).
Installé au Royaume-Uni, le duo enregistre l'excellent Riot on an Empty Street, paru en juillet 2004. Couvert d'éloges dans la presse spécialisée (le New Musical Express les compare à un Belle and Sebastian « élégant et sans chichis »), il propose des ballades au lyrisme délicat (« Homesick » ou « Misread ») et une pointe d'electro (« I'd Rather Dance With You »).
Sans que cela signifie la fin de Kings of Convenience, Erlend Oye entreprend une carrière solo ponctuée par l'admirable Unrest (2003) et un volume de la série DJ-Kicks (2004), et part s'installer à Berlin pour fonder un autre groupe, The Whitest Boy Alive.