Jackson nostettiin esille tiukassa uskonnollisessa ilmapiirissä. Hänen isänsä perheen mukana useita viihdyttäjiä, mutta hänen oli pakko rajoittaa hänen oma musiikillinen toiminta laulaa kirkossa kuoro ja kuuntelu—salaa—nauhat Bessie Smith ja Ida Cox sekä Enrico Caruso. 16-vuotiaana hän lähti Chicagoon ja liittyi Suur-Salemin baptistikirkon kuoroon, jossa hänen merkittävä kontraäänensä johti pian hänen valintaansa solistiksi.,
Jackson tuli ensimmäistä laajaa julkista huomiota 1930-luvulla, kun hän osallistui cross-country gospel-kiertueen laulaa sellaisia lauluja kuin ”Hänellä on Koko Maailma Hänen Käsissään” ja ”en Voi Laittaa Minun Luottamus Jeesukseen.”Vuonna 1934 hänen ensimmäinen tallennus, ”Jumala Erottaa jyvät akanoista,” oli menestys, joka johtaa sarjan muut tallenteet. Jackson on ensimmäinen suuri hitti, ”Siirrä Jopa Hieman Korkeampi,” ilmestyi vuonna 1945, se oli erityisen tärkeää, sillä sen käyttö ”vamppi,” loputtomasti toistuva lause (tai sointu kuvio), joka tarjoaa perustan solo-improvisaatio., Kaikki kappaleet, joiden kanssa hän oli tunnistettu—mukaan lukien ”Uskon”, ”Vain Kukkulan yli”, ”Kun Herään Kunniaa,” ja ”Vain Vähän Aikaa Pysyä Täällä”—olivat evankeliumin kappaleita, joiden tekstit ovat peräisin raamatun teemoja ja voimakkaasti harmonioita, rytmejä, ja emotionaalinen voima blues. Jackson kieltäytyi laulamasta muita kuin uskonnollisia lauluja tai jopa laulamasta lainkaan ympäristössä, jota hän piti sopimattomana. Mutta hän lauloi radiossa ja televisiossa ja vuodesta 1950, suoritetaan ylivuoto yleisöille vuosittain konsertteja Carnegie Hallissa New Yorkissa., Jacksonin levyistä kahdeksan myi kukin yli miljoona kappaletta.
Jackson oli erittäin suosittu ulkomailla, hänen versio ”Silent Night,” esimerkiksi, oli yksi kaikkien aikojen myydyin kirjaa Tanskassa. Hän teki merkittäviä ulkonäkö Newport (Rhode Island) Jazz-Festivaali vuonna 1957—ohjelma omistettu kokonaan, hänen pyynnöstään, evankeliumin kappaleita, ja hän lauloi avajaisissa Presidentti John F. Kennedy tammikuussa 1961., 1950-ja 60-luvulla hän oli aktiivisesti mukana kansalaisoikeusliikkeessä; vuonna 1963 hän lauloi vanha Afrikkalainen Amerikkalainen hengellinen ”olen Ollut Buked ja olen Ollut Halveksittu” varten väkijoukon yli 200 000 Washington, DC, juuri ennen kansalaisoikeudet johtaja Martin Luther King, Jr. antoi hänen kuuluisan ”minulla On Unelma” puhetta.