Michie Nakatani (chant, basse), Naoko Yamano (chant, guitare), et Atsuko Yamano (batterie) forment Shonen Knife en 1981 à Osaka, au Japon. Fan des Ramones et des Beatles, le trio sort un première cassette dans son pays uniquement, Minna Tanoshiku (Everybody Happy? dans sa version internationale), en 1982. Il faudra ensuite attendre le tout début des années 90 pour que les albums, entre pop, garage et punk, des Shonen Knife ressortent dans le reste du Monde.
En 1990, les auditeurs découvrent ce punk ludique féminin grâce aux albums Burning Farm et Yama No Attchan. Le trio tourne aux Etats-Unis et devient alors le petit protégé de Kurt Cobain, qui voit en elles des véritables petites stars en devenir. Shonen Knife assure même quelques premières parties de la tournée de Nirvana pour Nevermind en 1991. Le trio japonais signe alors un contrat avec Capitol Records, et voit se faire rééditer ses premiers albums, jusqu'alors inconnus aux Etats-Unis et en Europe, comme Let's Knife en 1992.
En 1993, Shonen Knife quitte Capitol pour Virgin, qui sort Rock Animals qui sort le single « Tomato Head ». Le groupe connaît ensuite un vif succès lors de la tournée Lolapalooza en 1994, notamment grâce à sa reprise de « Top Of The World » des Carpenters, qui figure sur l'album hommage au groupe, If I Were A Carpenter. En 1996, une compilation de raretés est éditée par Virgin, intitulée Birds & The B-Sides. Le succès demeure néanmoins relativement confidentiel, et Shonen Knife poursuit sa carrière underground avec Brand New Knife en 1997 et Happy Hour en 1998.
Après la sortie d'un nouvel album, uniquement au Japon, sur un label indépendant (Strawberry Sound), Michie Nakatani quitte le groupe, qui devient de fait un duo, avec Mana Nishiura en remplacement de Atsuko Yamano à la batterie. Il faudra ensuite attendre 2005 avant que le groupe se manifeste, en ressortant ses quatre premiers albums... L'année suivante, Mana Nishiura est tuée dans un accident de la route dans le New Jersey, alors que le groupe est en tournée avec DMBQ. L'album Genki Shock a donc tout de l'album posthume.
Shonen Knife poursuit néanmoins les concerts avec la batteuse Etsuko Nakanishi, puis sort un album live, et un opus d'inédits, Super Group, en 2009, et Free Time en 2010. Etsuko Nakanishi quitte alors le groupe et est remplacée par Emi Morimoto. En 2011, Shonen Knife livre un album de reprises des Ramones, intitulé Osaka Ramones : Tribute To The Ramones.