Formé à Toronto au Canada en 1964 par des immigrés ou fils d'immigrés européens sous le nom de The Sparrow par Jack London (chant), vite remplacé en 1965 par Joachim Krauledat (John Kay), les frères Jerry « Edmonton » McCrohan (batterie) et Dennis Eugene McCrohan (guitare, sous le pseudonyme de Mars Bonfire), Goldy « McJohn » Goadsby (orgue) et Klaus Karl Kassbaum (Nick St. Nicholas, basse), le groupe connaît un petit succès local et profite de l'été 1967 pour se produire le 14 mai au Matrix à San Francisco. La prestation ne fait pas grand bruit mais est enregistrée et le disque sera publié en 1969 sous le nom de Steppenwolf, une fois le groupe devenu célèbre.
La valse des membres débute ensuite, St. Nicholas est remplacé par John Ruston Moreve et Dennis Edmonton par Michael Monarch, au moment où le moineau se transforme en loup en 1968, à l'instigation de son découvreur et producteur pour le label ABC-Dunhill, Gabriel Mekler. Écrit par Mars Bonfire, le sauvage « Born to Be Wild » sort en juin 1968 et se classe n°2 aux États-Unis deux mois plus tard, son succès s'amplifiant par son inclusion dans la bande originale du film Easy Rider. Cet hymne des motards est aussi célèbre pour inclure l'expression (spécifique à la moto, non à la musique) « heavy metal thunder », qui définira le genre musical heavy metal, dérivé du hard rock.
Cette chanson, qui a fait l'objet de nombreuses reprises, est incluse dans une myriade de compilations et a illustré plusieurs spots publicitaires. Écrit par John Kay et John Moreve, le thème du tapis volant de « Magic Carpet Ride » est le second hit de Steppenwolf dans la foulée du premier et « Rock Me » le troisième et dernier, tiré de l'album At Your Birthday Party (1969), qui voit le bref retour de Nick St. Nicholas, remplacé l'année suivante par George Biondo. Quatrième album en deux ans, le très politisé Monster, aux textes sulfureux sur l'administration Nixon (la bête noire de John Kay à l'époque), voit l'arrivée d'un noueau guitariste, Larry Byrom. Le double album Steppenwolf Live, même si une partie est refaite en studio, demeure l'un des meilleurs enregistrements en public d'un groupe de heavy metal de l'histoire.
Considéré désormais comme un groupe extrémiste, les médias s'en détachent, mais une partie du public européen le découvre alors, notamment lors d'une prestation légendaire au festival de Bath le 26 juin 1970 où tous les Hell's Angels britanniques se donnent rendez-vous pour l'occasion, hurlant le nom du groupe durant les passages des autres artistes, Led Zeppelin, Frank Zappa, Donovan, Santana et The Byrds. Enfin, après l'échec d'un autre album conceptuel sur le féminisme cette fois, incompris par les féministes, scandalisés par l'illustration intérieure du 30cm figurant un « rod » en forme de pénis, For Ladies Only (juillet 1971), où John Kay se fait discret, la formation se sépare officiellement le 14 février 1972, John Kay entamant une carrière solo avec son éternelle panoplie de cuir et lunettes noires.
L'accueil qui lui est réservé en concert où le public réclame les hits de son ancien groupe l'amène à déjà le reformer deux ans plus tard, avec Jerry Edmonton, Goldy McJohn et le neveu d'Eddie Cochran, le guitariste et chanteur Bobby Cochran. Trois albums successifs en deux ans sont de nouveaux échecs commerciaux, malgré un Slow Flux plutôt réussi et l'apport d'Andy Chapin en remplacement de Goldy McJohn en 1975. Désabusé, John Kay démantèle la formation pour voir ensuite plusieurs réincarnations de Steppenwolf initiées par un promoteur de concerts avec d'anciens membres du groupe qui n'ont aucun droit sur le nom, celui-ci restant la paternité de John Kay et Jerry Edmonton. Après plusieurs jugements contradictoires, John Kay met un terme à la controverse en créant l'entité John Kay & Steppenwolf en 1980, avec une partie des musiciens qui l'ont accompagné pendant sa tentative solo.
Vingt sept ans plus tard, après de constants changements de personnel et quelques galettes insipides (sauf Wolftracks, en 1982), John Kay met un terme à l'aventure lors d'un concert d'adieu à Aberdeen, dans le Maryland, le 6 octobre 2007, se concentrant sur les rééditions d'albums de Steppenwolf et sur l'organisation à Nashville de la Wolf Fest depuis 1994, fête annuelle consacrée à son groupe. Le destin aura emporté entre-temps John Moreve dans un accident de moto le 1er juillet1981 et Andy Chapin dans l'accident d'avion qui coûta aussi la vie à son employeur Rick Nelson le 31 décembre 1985, puis Jerry Edmonton dans un accident de voiture près de Santa Barbara, en Californie, le 28 novembre 1993.