La plus grande chanteuse de gospel naît le 26 octobre 1911 à La Nouvelle-Orléans, en Louisiane (États-Unis), dans une famille très pauvre, dont le seul moment de répit est la messe dominicale. Fille du prêcheur de l'église baptiste de Plymouth Rock, Mahalia Jackson chante dès l'âge de quatre ans. Elle découvre le chant gospel puis le blues de Bessie Smith durant son adolescence.
En 1927, la famille déménage à Chicago. La jeune femme qui a quitté l'école et travaille comme serveuse, chante également dans la chorale de l'église de Salem avec le groupe des frères Johnson. Elle se fait remarquer pour son talent et un style de gospel peu académique hérité de ses racines sudistes. Accompagnée par la pianiste Evelyn Gay, elle commence une carrière de soliste et ouvre un salon de beauté. En 1937, la marque Decca propose de l'enregistrer avec le compositeur et révérend Thomas A. Dorsey. Le titre « God's Gonna Separate the Wheat from the Tares » développe un succès local.
En 1946, après quelques années consacrées à ses affaires, Mahalia Jackson revient sur scène et signe avec le label Apollo. Ses deux premiers titres, « I Want to Rest » et « He Knows My Heart », précèdent le succès national de son troisième enregistrement, « Move on Up a Little Higher », qui devient la plus forte vente dans la catégorie gospel (au point que la production des usines ne parvient pas à satisfaire la demande). Cette gloire précipitée voit Mahalia Jackson être invitée sur les plateaux télé. En 1952, la chanteuse est récompensée pour le titre « I Can Put My Trust in Jesus » et sa version de « Silent Night ».
Animatrice d'une émission de radio sur CBS, Mahalia Jackson atteint un public très large allant au delà des barrières de la ségrégation. Produite par Columbia en 1954, elle enregistre « Rusty Old Halo » et passe dans l'émission d'Ed Sullivan. Sa performance mémorable au festival de Newport en 1958 et la progression de ses ventes de disques consolident sa notoriété internationale. Mahalia Jackson est alors la chanteuse de gospel par excellence. En 1959, elle apparaît dans le film Imitation of Life.
Ce succès qui lui permet de toucher une audience large sert à sa cause dans la lutte pour la reconnaissance des droits civiques de la communauté noire, dont elle se fait la porte-parole aux côtés de son ami Martin Luther King. Lorsque celui-ci est assassiné en 1968, elle chante « Precious Lord, Take My Hand » à ses funérailles. En 1971, après un divorce et des problèmes de santé récurrents, Mahalia Jackson fait ses adieux à la scène en Allemagne. Le 27 janvier 1972, elle s'éteint à Evergreen Park, dans l'Illinois, de compications cardiaques dues au diabète.