Fondé en 1994 à Los Angeles (Californie), Tenacious D se compose de Jack Black (chant, guitare) et Kyle Glass (chant, guitare), tous deux membres de la troupe de théâtre The Actors Gang. Le duo commence par se produire en mode acoustique dans les clubs de la ville avant de décrocher une émission sur la chaîne américaine HBO en 1997. Son cocktail d'humour et de rock ne tarde pas à séduire le public.
En 1999, Dave Grohl (Foo Fighters, ex-Nirvana) fait la connaissance du groupe lors d'un concert au Viper Room (Los Angeles). Il invite alors Tenacious D à le rejoindre au casting du clip de son single « Learn to Fly ». Cette collaboration permet à Jack Black et Kyle Glass de décrocher des premières parties pour Pearl Jam, Beck et Foo Fighters. L'année suivante, Tenacious D signe avec le label Epic Records.
En 2001, le duo sort son premier album homonyme produit par The Dust Brothers (Beck, Beastie Boys). Ce disque est enregistré avec Dave Grohl, Page McConnell (Phish), Warren Fitzgerald (The Vandals) et Steven Shane McDonald (Redd Kross). En quatre ans, Tenacious D deviendra disque de platine aux États-Unis, notamment grâce au clip de la chanson « Dio » auquel participe Ronnie James Dio, membre légendaire de Black Sabbath.
En 2003, parallèlement à la parution du DVD en public The Complete Master Works, Tenacious D s'attaque à la réalisation du film The Pick of Destiny. À cette occasion, il écrit de nouvelles chansons rassemblées sur l'album du même nom. Ce disque paraît en 2006, en même temps que le film. Il est enregistré en collaboration avec Dave Grohl, John Konesky et John Spiker, respectivement guitariste et bassiste de Trainwreck. Dans la foulée, Tenacious D part en tournée aux États-Unis. Il se produit notamment au Madison Square Garden de New York.
Après la parution du second volume The Complete Master Works Part 2 (DVD, 2008), Jack Black annonce que Tenacious D travaille sur un nouvel album à paraître en 2010. Le groupe apporte parallèlement son soutien à Barack Obama en se produisant à un concert destiné à financer sa campagne. Le résultat, Rize of the Fenix, sort finalement en 2012 et se positionne à la quatrième place des ventes américaines et deuxième au Royaume-Uni. Il faut à nouveau attendre six ans pour connaître la suite des aventures du duo, sous la forme d'une bande originale pour la série animée Post-Apocalypto (2018).