Joy Williams et John Paul White, tous deux chanteurs, guitaristes et paroliers, se rencontrent en 2008 à Nashville (Tennessee, Etats-Unis) pendant une session d'écriture. Ils se rendent compte très rapidement qu'ils sont sur la même longueur d'ondes et forment The Civil Wars. Dès lors, les deux compères commencent à travailler ensemble et enregistrent leur Live at Eddie's Attic en 2009.
La session donne naissance à un album digital qui sera suivi quelques mois plus tard par l'EP Poison & Wine. En 2010, le duo pose les bases de son premier album studio qui sera produit par Charlie Peacock (Amy Grant, Swichfoot) et qui sort sous le nom de Barton Hollow au printemps 2011. L'album rencontre un certain succès, se plaçant dans le top 20 du Billboard dès la première semaine d'exploitation.