Jackson wychowywany był w surowej atmosferze religijnej. Rodzina jej ojca obejmowała kilku artystów, ale była zmuszona ograniczyć swoją działalność muzyczną do śpiewania w chórze kościelnym i słuchania-w ukryciu-nagrań Bessie Smith i Idy Cox, a także Enrico Caruso. Gdy miała 16 lat, wyjechała do Chicago i dołączyła do Greater Salem Baptist Church choir, gdzie jej niezwykły kontraltowy głos wkrótce doprowadził do jej wyboru jako solistki.,
Jackson po raz pierwszy zwróciła uwagę szerokiej publiczności w latach 30., kiedy wzięła udział w trasie koncertowej, śpiewając takie piosenki jak ” He 's Got the Whole World in His Hands” I ” I Can Put My Trust in Jesus.”W 1934 jej pierwsze nagranie,” God Gonna Separate the Wheat from the Tares”, odniosło sukces, prowadząc do serii innych nagrań. Pierwszy wielki hit Jacksona, „Move on Up a Little Higher”, pojawił się w 1945 roku; było to szczególnie ważne dla jego użycia „vamp”, bezterminowo powtarzanej frazy (lub wzoru akordów), która stanowi podstawę do solowej improwizacji., Wszystkie utwory, z którymi została zidentyfikowana-w tym „I Believe”, „Just over the Hill”, „When I Wake Up in Glory” I „Just a Little While to Stay Here” – były piosenkami gospel, z tekstami zaczerpniętymi z tematów biblijnych i pod silnym wpływem harmonii, rytmów i emocjonalnej siły bluesa. Jackson odmawiała śpiewania jakichkolwiek, ale religijnych piosenek, a nawet śpiewania w ogóle w otoczeniu, które uważała za nieodpowiednie. Ale śpiewała w radiu i Telewizji, a począwszy od 1950 roku, występowała dla przepełnionej Publiczności na corocznych koncertach w Carnegie Hall w Nowym Jorku., Osiem płyt Jacksona sprzedało się w ponad milionie kopii.
Jackson była niezwykle popularna za granicą; jej wersja „Silent Night”, na przykład, była jedną z najlepiej sprzedających się płyt wszech czasów w Danii. W 1957 wystąpiła na Newport (Rhode Island) Jazz Festival—w programie poświęconym w całości, na jej życzenie, piosenkom gospel – i zaśpiewała na inauguracji prezydenta Johna F. Kennedy ' ego w styczniu 1961., W latach 50. i 60. była aktywna w Ruchu Praw Obywatelskich; w 1963 zaśpiewała Stary afroamerykański duchowy „i Been 'Buked and I Been Scorned” dla tłumu ponad 200.000 w Waszyngtonie, tuż przed liderem Praw Obywatelskich Martin Luther King, Jr., wygłosił swoją słynną przemowę „I Have a Dream”.