Chanteur au sein d'une chorale baptiste, il intègre les Pilgrim Travellers (groupe gospel où l'on trouve également Sam Cooke) à la fin des années 50. Il traîne ensuite sa voix grave et métallique dans des clubs noirs du Middle-West et de Californie. Son album, Lou Rawls Live, obtient des ventes prometteuses en 1966, confirmées quelques mois plus tard par Soulin'. Au cours des années 70, il sort de nombreux albums de variété commerciale soul, qu'il reniera par la suite pour s'orienter vers un jazz-blues plus orthodoxe, clairement affirmé dans l'album At Last sorti en 1989.
