Great Lake Swimmers se forme à Wainfleet (Ontario, Canada) en 2002, à l'initiative du chanteur et guitariste Tony Dekker. Le songwriter enrôle son vieil ami Erik Arnesen à la guitare électrique et au banjo, Greg Millson à la batterie, Bret Higgins à la basse, et Julie Fader à la guitare et au chant. Great Lake Swimmers est formé et se relocalise à Toronto. Fortement influencé par le folk canadien et américain, Neil Young en tête, le groupe commence à tourner au Canada et aux Etats-Unis avant de sortir un premier album homonyme en 2003, sur le label Weewerk.
Mais cette sortie à petite échelle reste confidentielle, et il faudra attende 2005 pour voir ce premier effort ressortir en avril 2005. La musique de Great Lake Swimmers, entre folk rock très imagé et influencé par la nature et les grands espaces, et songwriting raffiné, empruntant à des artistes comme Nick Drake ou Sufjan Stevens, récolte de très bonnes critiques dès la sortie du deuxième album du groupe, Bodies and Minds, qui paraît en août 2005.
En mai 2007 (mars au Canada) sut un troisième opus, Ongiara, qui révèle le groupe de Tony Dekker (véritable tête pensante du groupe) au grand public, notamment grâce au titre « Your Rocky Spine », qui connaît un gros succès, en partie dû à un épisode de la série télévisée américaine Weeds, qui emprunta le titre pour une séquence et se retrouva sur la bande originale de la série.
Le 31 mars 2009, Great Lake Swimmers revient avec un quatrième album, intitulé Lost Channels et paru sur le label Nettwerk. Produit par le Canadien Andy Magoffin, le disque a reçu un accueil dithyrambique de la part d'une presse qui s'est littéralement emparé du folk rock élégant du groupe. Le premier single du disque s'intitule « Pulling on a Line ». Sorti en avril 2012, le cinquième opus New Wild Everywhere profite de cet intérêt croissant pour les Canadiens. Le simple voisine « Easy Come Easy Go » aux côtés du titre bonus francophone « Les Champs de progéniture ». Great Lake Swimmers sort en 2015 son sixième album A Forest of Arms.