vuonna 1968, Jacksonin ollessa 30-vuotias, hän päätti pyrkiä Yhdysvaltain senaattiin istuvaa Herman Talmadgea vastaan. Hänen kampanjansa oli alirahoitettu, ja hän hävisi, mutta Jackson voitti Atlantassa saavuttaen näkyvyyttä kaupungissa, jossa oli huomattava musta vähemmistö. Seuraavana vuonna hän rakensi voimansa ja pääsi varapormestariksi, joka toimi raatimiesten hallituksen puheenjohtajana. Tuolloin Atlanta muutti kaupungin peruskirjaansa vahvistaen pormestarin asemaa ja nimeten varapormestarin uudelleen kaupunginvaltuuston puheenjohtajaksi (valtuutetut olivat nyt kaupunginvaltuuston jäseniä).
vuonna 1970 Jacksonista tuli Atlantan ensimmäinen musta varapormestari, jota tehtävää hän hoiti neljä vuotta. Myöhemmin samana vuonna Jackson tuki kaupungin puhtaanapitotyöntekijöitä, jotka olivat menneet lakkoon, ja hänen tukensa vaikutti siihen, että he saivat korkeampaa palkkaa.
vuonna 1973 Jackson valittiin 60 prosentin ääniosuudella Atlantan ja minkään eteläisen suurkaupungin ensimmäiseksi Afroamerikkalaiseksi pormestariksi; valkoisten liberaalien/maltillisten ja afroamerikkalaisten koalitio tuki häntä. 35-vuotiaana hän syrjäytti istuvan viranhaltijan Sam Massellin.
ensimmäisellä kaudellaan Jackson pyrki vaalikampanjan aiheuttaman polarisaation jälkeen parantamaan rotusuhteita Atlantassa ja sen ympäristössä. Pormestarina hän johti useiden valtavien kaupungin ja alueen julkisten urakkahankkeiden alkuvaiheita ja etenemistä. Affirmative action-ohjelmat auttoivat vähemmistöjen ja naisten omistamia yrityksiä osallistumaan. Hän auttoi järjestämään silloisen William B. Hartsfieldin Atlantan kansainvälisen lentoaseman valtavan terminaalin (nykyinen Kotimaan Terminaali) päivityksen nykyaikaisiin standardeihin. Jackson vastusti voimakkaasti moottoriteiden rakentamista kaupunginosien läpi tietäen, että tällaiset toimet tuhosivat kukoistavia yhteisöjä. Vuonna 1977 Jackson erotti yli 900 puhtaanapitotyöntekijää vuoden 1977 Atlantan puhtaanapitolakon aikana. Tämän lakkoilun seurauksena monet työntekijöistä palasivat töihin vuoden loppuun mennessä.
Jackson toimi pormestarina läpi sen ajan, jolloin erillinen Metropolitan Atlanta Rapid Transit Authority (MARTA) sai suuren määrän liittovaltion rahoitusta pikaraitiotiejärjestelmälle, kun rakennustyöt aloitettiin, ja kun MARTA aloitti ensimmäisen rautatieliikennepalvelunsa Atlantassa ja Dekalbin piirikunnassa vuonna 1979 ja kun sitä laajennettiin jatkuvasti sen jälkeen. Pormestarina hän juhli syyskuussa 1990, kun Atlanta valittiin vuoden 1996 kesäolympialaisten isäntäkaupungiksi. Pormestarina hän otti olympialipun vastaan vuoden 1992 päättäjäisissä Barcelonassa, Espanjassa. Hän valvoi monia suunniteltuja julkisia urakkahankkeita, kuten moottoriteiden ja puistojen parantamista sekä Freedom Parkwayn valmistumista, joita nopeutettiin vuosina 1990-1996 elokuussa 1996 alkaneita olympialaisia varten.
Jacksonin toisella pormestarikaudella Atlantan Lapsimurhat olivat käynnissä vuosina 1979-1981. Hän tuki Atlantan poliisia ja muita alueen poliisivoimia, mutta pyrki myös rauhoittamaan mustien lasten sarjamurhien herättämiä julkisia jännitteitä. Murhasta syytetty Wayne Williams jäi kiinni vuonna 1981. Williams tuomittiin kahteen peräkkäiseen elinkautiseen kahden aikuisen miehen murhasta, mutta häntä ei koskaan syytetty eikä syytetty yhdenkään lapsiuhrin murhasta. Häntä pidetään Telfairin vankilassa.
vuonna 1974 Jackson sai Jefferson Awardsin vuosittain jakaman Samuel S. Beard Award for Greatest Public Service by an Individual 35 Years or Under-palkinnon.