En 2007 à Los Angeles (Californie), le guitariste Scott Holliday cherche à former un groupe de blues rock tendance hard rock avec le batteur Mike Miley. Ils recrutent d'abord le bassiste Robin Everhart et après quelques essais retiennent le chanteur Jay Buchanan, jusqu'alors spécialisé dans le folk. Rival Sons est né début 2008 et commence illico à enregistrer un premier album auto-produit. Before the Fire voit le jour en 2009 et est distribué exclusivement en format numérique. C'est toutefois suffisant pour que Rival Sons soit convié à faire les premières parties de quelques gloires du hard rock telles Alice Cooper et AC/DC. Les titres « Tell Me Something » et « I Want More » figurent eux dans des spots publicitaires télévisés.
Rival Sons est signé en 2010 par le label Earache Records, spécialisé dans le heavy metal. L'EP Rival Sons sort en 2011, bientôt suivi par l'album Pressure & Time. Pressure & Time est bien accueilli au Royaume-Uni, où Rival Sons commence à se faire un nom. Le groupe place également les titres « Pressure and Time » et « Face of Light » dans les classements de rock et de rock alternatif canadiens. La plate-forme numérique iTunes retient pour sa part Rival Sons comme l'un des groupes à suivre de 2011. Après avoir ouvert pour Judas Priest et Evanescence, Rival Sons s'embarque pour sa première tournée britannique et européenne.
Les Californiens enregistrent ensuite leur deuxième album pour Earache Records à Nashville (Tennessee) avec le producteur Dave Cobb. Au programme de Head Down qui sort en septembre 2012, figurent du blues rock, du hard rock et quelques joliesses folk, un véritable condensé de rock classique tel qu'il se pratiquait dans les années 1970. Le disque est un succès un peu partout dans le monde et dépasse la sphère des seuls nostalgiques. Rival Sons tourne durant l'année 2013 en première partie de Kiss et Sammy Hagar.
Enregistré encore une fois à Nashville avec le producteur Dave Cobb, l'album suivant Great Western Valkyrie sort dans le monde en juin 2014. Le producteur répond toujours présent pour son successeur, Hollow Bones (2016), que le groupe enregistre au terme d'une tournée harassante, en l'espace de trois semaines seulement. Affamé de scène, le quatuor repart ensuite sur la route en première partie de ses idoles, Deep Purple d'abord, puis Black Sabbath pour la tournée d'adieu de ces derniers. De retour en studio, il reprend ses habitudes entre Nashville et Muscle Shoals, dans l'Alabama, pour son sixième album Feral Roots, sorti en janvier 2019. Entre temps, Rival Sons a signé avec un nouveau label, Low Country Sound, distribué par Atlantic Records.