La longue histoire de The Crusaders commence en 1954 avec des musiciens de Houston (Texas) baptisés alors The Swingsters : le pianiste Joe Sample, le saxophoniste ténor Wayne Henderson, le tromboniste Wilton Felder, le batteur Stix Hooper, le bassiste Henry Wilson et le flûtiste Hubert Laws.
La formation renommée The Modern Jazz Sextet puis The Crusaders en 1960 s'installe à Los Angeles et perd les deux derniers membres. Un bassiste interchangeable participe aux séances d'enregistrement pour le compte du label Jazz Pacific, débouchant sur une série d'albums hard bop dont le premier Freedom Sound (1961) est suivi de quelques oeuvres marquantes : The Jazz Crusaders at the Lighthouse (1963), Chile Con Soul (1965), Tough Talk et Uh Huh (1967).
En 1971 survient le tournant de la carrière du groupe qui sous le nom raccourci The Crusaders accueille le guitariste Larry Carlton et le bassiste Robert Pops Popwell, signe d'une nouvelle orientation musicale tirant vers un jazz funk électrique faisant son entrée dans les charts pop. Cette période voit poindre quelques réussites avec les album 1 (1972), Scratch (1974), Chain Reaction (1975) et l'indépassable Free As the Wind (1976), sans Wayne Henderson, reconverti dans la production.
C'est en 1979 que la formation atteint son pic commercial avec la parution de Street Life (1979), classé dans les hits jazz, black et pop du Billboard. Le morceau-titre chanté par Randy Crawford fait même une incursion remarquée dans les charts disco. Son successeur, Rhapsody and Blues (1980) ne parvient pas à rééditer l'exploit malgré la voix de Bill Withers sur « Soul Shadows ». Après Royal Jam (1982) et la participation de Joe Cocker, le batteur Stix Hooper rend ses baguettes.
En 1991, l'album Healing the Wounds se classe n°1 des charts jazz. La mise en sommeil du groupe par Joe Sample occupé à sa carrière solo clôt un nouveau chapitre de l'histoire, pour mieux réapparaître sous le nom The Jazz Crusaders quand le style revient à la mode. Cette dernière formule adoptée à partir de 1995 et des albums Happy Again et Louisiana Hot Sauce offre quelques grands moments sur Rural Renewal en 2003. L'orchestre mené par Wayne Henderson et Wilton Felder tente d'être à la hauteur de la légende avec Alive in South Africa et un nouveau At the Lighthouse (2006) puis Kick the Jazz (2008). L'année 2014 s'avère meurtrière pour le groupe qui perd successivement Wayne Henderson, décédé le 5 avril d'une crise cardiaque, et Joe Sample le 27 septembre, d'un cancer de la gorge. Le 27 septembre 2015, le décès de Wilton Felder fait du batteur Stix Hooper l'unique survivant de la formation originale.
