Jackson blev opdraget i en streng religiøs atmosfære. Hendes fars familie omfattede flere underholdere, men hun blev tvunget til at begrænse sine egne musikalske aktiviteter til at synge i kirkekoret og lytte—skjult—til optagelser af Bessie Smith og Ida Co.samt af Enrico Caruso. Da hun var 16, hun gik til Chicago og sluttede sig til Greater Salem Baptist Church choir, hvor hendes bemærkelsesværdige contralto stemme snart førte til hendes valg som solist.,Jackson kom først til bred offentlig opmærksomhed i 1930 ‘ erne, da hun deltog i en langrendsturn tour, der sang sange som “han har hele verden i hænderne” og “jeg kan sætte min tillid til Jesus.”I 1934 var hendes første indspilning, “Gud skal adskille hveden fra Tares”, en succes, der førte til en række andre optagelser. Jacksons første store hit,” Move on Up a Little Higher”, dukkede op i 1945; det var især vigtigt for dets brug af “vamp”, en ubestemt gentagen sætning (eller akkordmønster), der giver et fundament for solo improvisation., Alle de sange, som hun blev identificeret, herunder “jeg Tror” Bare “over the Hill”, “Når jeg Vågner Op i Herlighed,” og “Just a Little While to Stay Here”—var gospel sange, med tekster hentet fra de bibelske temaer, og det er stærkt påvirket af harmonier, rytmer og følelsesmæssige kraft af blues. Jackson nægtede at synge andre end religiøse sange eller faktisk at synge overhovedet i omgivelser, som hun anså for upassende. Men hun sang i radioen og på tv og startede i 1950 for at overflyde publikum ved årlige koncerter i Carnegie Hall i Ne.York City., Otte af Jacksons plader solgte mere end en million eksemplarer hver.
Jackson var enormt populær i udlandet; hendes version af “Silent Night”, for eksempel, var en af de all-time bedst sælgende poster i Danmark. Hun gjorde et bemærkelsesværdigt optræden på Newport (Rhode Island), Jazz Festival i 1957—i et program der udelukkende på hendes anmodning om, at gospel sange—og hun sang ved indvielsen af Præsident John F. Kennedy i januar 1961., I 1950’erne og ’60’erne var hun aktiv i borgerrettighedsbevægelsen, i 1963 blev hun sang den gamle African American åndelige “jeg er Blevet” Buked, og jeg er Blevet genstand for Foragt” for et publikum på mere end 200.000 i Washington, D.C., lige før civil rights leader Martin Luther King, Jr., holdt sin berømte “i Have a Dream” tale.