The Amps wurden 1995 von Kim Deal, einer aus den USA stammenden Sängerin und Rhythmusgitarristin, gegründet, nachdem ihre vorherige Gruppe, die Breeders, eine Pause eingelegt hatte. Deal hatte sich durch ihre Arbeit mit den Pixies und den Breeders bereits als Schlüsselfigur des alternativen Rocks etabliert und wollte während der Pause der Breeders weiter Aufnahmen machen. Zur Besetzung der Band gehörten Luis Lerma am Bass, Nate Farley an der Leadgitarre und Jim Macpherson von den Breeders am Schlagzeug, wobei Kelley Deal kurzzeitig mitwirkte, bevor sie wegen Drogenproblemen ausstieg. Der Durchbruch gelang The Amps mit der am 30. Oktober 1995 veröffentlichten Single "Tipp City", die ihrem Debütalbum Pacer vorausging, das im Oktober 1995 nach Aufnahmen in den Easley Studios und an anderen Orten in den Vereinigten Staaten, Irland und darüber hinaus veröffentlicht wurde. In den Jahren 1995 und 1996 tourten The Amps ausgiebig in den Vereinigten Staaten, Europa und Australien, teilten sich die Bühnen mit Acts wie den Foo Fighters, Sonic Youth, Guided by Voices und Primus und traten bei Festivals wie dem Summersault auf. 1996 änderte Kim Deal den Namen der Gruppe zurück in Breeders und beendete damit die kurze Existenz von The Amps; die Mitglieder verfolgten anschließend andere Projekte, wobei ehemalige Mitglieder später bei Guided by Voices und anderen Nebenprojekten auftraten.
