w 1968 roku, kiedy Jackson miał 30 lat, zdecydował się kandydować do Senatu USA przeciwko urzędującemu Hermanowi Talmadge ’ owi. Jego kampania była niedofinansowana i przegrał, ale Jackson wygrał w Atlancie, zyskując na znaczeniu w mieście, które miało znaczną czarną mniejszość. W następnym roku zbudował swoją siłę, uzyskując wybór na wiceburmistrza, który był przewodniczącym Rady radnych. W tym czasie Atlanta zmodyfikowała swój statut miejski, wzmacniając pozycję burmistrza i zmieniając nazwę na wiceprezydenta na przewodniczącego Rady Miejskiej (radni byli teraz członkami Rady Miejskiej).
w 1970 roku Jackson został pierwszym czarnoskórym wiceprezydentem Atlanty, jego pierwszym wybranym stanowiskiem, które zajmował przez cztery lata. Później w tym samym roku Jackson wspierał pracowników sanitarnych w mieście, którzy rozpoczęli strajk, a jego wsparcie przyczyniło się do otrzymania przez nich wyższej pensji.
w 1973 roku Jackson został wybrany z 60% głosów, jako pierwszy afroamerykański burmistrz Atlanty i dowolnego większego miasta południowego; był wspierany przez koalicję białych liberałów / umiarkowanych i Afroamerykanów. W wieku 35 lat pokonał urzędującego sama Massella.
podczas swojej pierwszej kadencji Jackson pracował nad poprawą stosunków Rasowych w Atlancie i okolicach po polaryzacji spowodowanej kampanią wyborczą. Jako burmistrz kierował początkami i znacznym postępem w kilku dużych projektach publicznych dla miasta i regionu. Programy akcji afirmatywnych pomogły mniejszościowym i firmom należącym do kobiet w uczestnictwie. Pomógł zorganizować modernizację ogromnego terminalu lotniska Atlanta International Airport (obecnie Terminal Krajowy) do nowoczesnych standardów. Jackson zdecydowanie sprzeciwiał się budowie autostrad przez dzielnice w mieście, wiedząc, że takie działania zniszczyły Kwitnące społeczności. W 1977 roku Jackson zwolnił ponad 900 pracowników sanitarnych podczas strajku Sanitarnego w Atlancie w 1977 roku. Po tym akcie strajku wielu robotników powróciło do pracy pod koniec roku.
Jackson był burmistrzem przez okres, kiedy oddzielny Metropolitan Atlanta Rapid Transit Authority (MARTA) uzyskał dużą ilość funduszy federalnych na system linii kolejowych rapid-transit, kiedy rozpoczęto budowę, i kiedy MARTA rozpoczęła swoją pierwszą usługę tranzytu kolejowego w Atlancie i w hrabstwie DeKalb w 1979 roku, a następnie podczas jego ciągłej ekspansji. Jako burmistrz świętował we wrześniu 1990 roku, kiedy to Atlanta została wybrana jako miasto-gospodarz Letnich Igrzysk Olimpijskich 1996. Jako burmistrz przyjął flagę olimpijską podczas ceremonii zamknięcia igrzysk w Barcelonie w 1992 roku. Nadzorował ukończenie wielu planowanych projektów robót publicznych, takich jak modernizacja autostrad i parków oraz ukończenie Freedom Parkway, które zostały przyspieszone w latach 1990-1996 w ramach przygotowań do Igrzysk Olimpijskich, które rozpoczęły się w sierpniu 1996.
podczas drugiej kadencji Jacksona jako burmistrza, morderstwa dzieci w Atlancie trwały w latach 1979-1981. Wspierał policję w Atlancie i inne siły policyjne w okolicy, ale także działał na rzecz uspokojenia napięć społecznych wywołanych seryjnymi zabójstwami czarnych dzieci. Oskarżony zabójca, Wayne Williams, został złapany w 1981 roku. Williams został skazany na dwa kolejne wyroki dożywocia za morderstwo dwóch dorosłych mężczyzn, ale nigdy nie został oskarżony ani osądzony za morderstwo którejkolwiek z ofiar dzieci. Obecnie przebywa w Więzieniu Stanowym w Telfair.
w 1974 roku Jackson otrzymał Samuel S. Beard Award za największą służbę publiczną przez osobę 35 lat lub mniej, nagrodę przyznawaną corocznie przez Jefferson Awards.