The Whispers se forme en 1964 par les frères jumeaux Walter (Scotty) et Wallace Scott qui recrutent les chanteurs Nicholas Caldwell, Marcus Hutson et Gordy Harmon. Signés par le petit label Dore, leur style vocal soul s'apparente à celui de The Temptations, à la fois héritiers du gospel et contemporain de cet âge d'or.
Soul vocale
Le groupe connaît un premier et relatif succès avec « I Was Born When You Kissed Me » en 1964, puis « The Time Has Come » en 1969, sur le label Soul Clock, et «Seems Like I Gotta Do Wrong», extrait du premier album Planets of Life (Unidisc). Gordy Hamon quitte le groupe en 1973, remplacé par Laeveil Degree (ex Friends of Distinction).
Succès disco
The Whispers fréquente ensuite plusieurs labels (Janus, Soul Train, Solar) avant de rencontrer un succès de discothèque avec « And the Beat Goes On », co-écrit par Stephen Shockley (Lakeside) et n°1 pendant cinq semaines en 1980 alors que le disco bat son plein. Un nouveau n°1 arrive en 1987 avec « Rock Steady » qui relance la carrière du groupe.
Cinquième décennie
Marcus Hutson quitte le groupe en 1992 et n'est pas remplacé (il décède en 2000). En 1993, les frères Scott décident chacun d'entamer une carrière solo sans pour autant compromettre celle de l'un des plus anciens groupes vocaux américains. En 1997, The Whispers publie un album hommage à Babyface (Songbook Vol. 1: The Songs of Babyface), suivi de For Your Ears Only en 2006, exercice de soul satinée conforme à leur style.