Formé au début des années 1970 à Durham, en Caroline du Nord, The Modulations était un groupe vocal de R&B et de soul, à ne pas confondre avec le groupe de gospel du même nom basé en Floride. Le quatuor - connu à l'origine sous le nom de Pimps - était composé des auteurs-compositeurs-interprètes Larry Allen, Hoyle Saunders, Henry Chanel et Larry Duncan. Attirant l'attention d'Henry Bates, un entrepreneur local, le groupe signe chez Buddha Records et sort le single "I'm Hopelessly in Love" en 1973. Ils enchaînent en 1974 avec le single "I Can't Fight Your Love". Bien que ces deux singles aient attiré l'attention sur le groupe, ils n'ont pas été des succès commerciaux. Le premier album du groupe, It's Rough Out Here, sort en 1975 et comprend des arrangements des légendes du R&B Vince Montana, Norman Harris et Ronnie Baker. L'accompagnement instrumental est assuré par un groupe de studio comprenant des membres de l'orchestre maison de Philadelphia International Records, MFSB ("The Sound of Philadelphia"). Le succès commercial n'était pas encore au rendez-vous et l'album n'a pas connu de succès significatif, bien que le groupe soit apparu dans la populaire émission de télévision Soul Train en 1976. Le groupe a enregistré plusieurs titres supplémentaires en studio, mais s'est séparé, laissant les morceaux dans les coffres jusqu'à leur sortie officielle sur l'album Moving in the Right Direction (1998), réservé aux Japonais.