Originaires de Repentigny, dans la région de Montréal, Jean-François Pauzé et Karl Tremblay se rencontrent dans l'équipe de hockey locale. Ils sont rejoints en 1995 par Marie-Annick Lépine, encore étudiante, mais surtout violoniste issue d'une formation classique.
Une participation à un tremplin dans l'un des bars de la ville révèle leur énergie et bonne humeur communicative et en font les chouchous du public. Le groupe se forme officiellement en 1997, après le recrutement d'un bassiste, Jérôme Dupras, et d'un batteur, Dominique Lebeau, (dit Domlebo) afin d'enregistrer deux premiers disques autoproduits, publiés en 1998, qui se vendent comme des petits pains.
Leur réputation croît sans mal sur les campus, via les radios universitaires. Mais malgré ce succès populaire et alors que Les Cowboys Fringants atteignent, en 1999, la seconde place au concours de musique alternative de Montréal, les Francouvertes, les maisons de disques boudent encore, refusant de croire en leur avenir.
En 2000, sort Motel Capri , toujours en autoproduction, mais distribué par le label indépendant l'Empire Kérozen. Il inscrit définitivement le quintette dans la famille de la « relève » de la chanson québécoise engagée : leur son caractéristique (d'où ressortent flute, violon, mandoline et accordéon) est typique du folklore traditionnel, mais leur engagement humaniste (pour la préservation de l'environnement et la souveraineté du Québec, contre la machine commerciale et la passivité des grandes puissances politiques) est véhiculé par une poésie réaliste contemporaine douce-amère, abusant d'anglicismes.
Dans toutes les provinces québécoises, un réseau de fans dévoués se charge de la promotion du groupe. Puis, l'album Break Syndical (mars 2002) devient un phénomène, cette fois-ci avec le soutien des médias. Le groupe joue à guichets fermés pendant deux ans, des petits bars de leur débuts, au Spectrum de Montréal, jusqu'au Centre Bell (20.000 places, concert du 30 décembre 2003).
La réputation de ces troubadours à santiags traverse l'Atlantique et c'est une salle de l'Elysée Montmartre à Paris, pleine à craquer, qui accueille les Québécois en 2004.
Après avoir raflé cinq Félix (équivalent des victoires de la musique), sorti un live remarqué Attache Ta Tuque ! (2003), écrit les chansons les plus populaires du pays sur cinq ans, vendu plus de 500.000 exemplaires de leurs albums, dont 230.000 de La Grande Messe (2004), Les Cowboys Fringants ont crée en 2006 une fondation à leur nom pour la sauvegarde de l'environnement.
Ainsi, via divers donateurs mais aussi l'argent issu de la vente de leurs albums et billets de concerts, le groupe lutte efficacement pour la reforestation et la protection de territoires « à haute valeur écologique ».
Leur sixième album L'Expédition , est sorti en septembre 2008. Le groupe, qui entre temps s'est séparé de son batteur, s'y révèle dans un genre plus intimiste, les histoires et drames du quotidien éclipsant en partie leur discours politique, pourtant toujours d'actualité. Sur Un Air de Déjà Vu , sort en mars 2009, tandis que Les Cowboys Fringants tournent toujours assidument.
Ce sont d'ailleurs leurs prestations scéniques qui emportent le plus l'adhésion en France. Ni l'album En Concert au Zénith de Paris (2010) ni un Casino de Paris complet le 14 avril 2010 ne viendront démentir cette réelle communion avec le public français. Bâti pour la scène , Que du Vent sort en novembre 2011 et offre une face plus rock de la production du groupe.