Rockefeller toimi vuosina 1981-1995 Arkansasin osavaltion Poliisikomissiossa. Vuonna 1991 presidentti George H. W. Bush nimitti hänet President ’ s Council on Rural America-järjestön puheenjohtajaksi. Hän oli Quapaw Area Council of the Boy Scouts of America-järjestön puheenjohtaja ja toimi national Scouting Organizationin johtokunnassa.
Rockefellerin ensimmäinen kokeilu vaaleilla valitussa politiikassa tapahtui, kun hän voitti täpärästi Arkansasin osavaltion senaattorin Charlie Cole Chaffinin, joka oli ensimmäinen Arkansasin osavaltion senaattiin valittu nainen ja vuoden 1994 Varakuvernööriehdokas. Marraskuun 1996 erikoisvaalit edellyttivät kuvernööri Jim Guy Tuckerin eroa ja varakuvernööri Mike Huckabeen nostamista kuvernööriksi. Rockefeller valittiin uudelleen vuonna 1998 täydelle nelivuotiskaudelle 67 prosentin ääniosuudella ohi lääkäri Kurt Dildayn. Tämä marginaali on paljon suurempi kuin hänen isänsä vuosien 1966 ja 1968 kuvernöörivaaleissa saama äänimäärä. Rockefeller valittiin uudelleen vuonna 2002 60 prosentin ääniosuudella, ohi Arkansasin osavaltion korkeimman oikeuden tuomarin Ron Sheffieldin, joka oli ensimmäinen afroamerikkalainen demokraatti.
varakuvernöörinä Rockefeller oli innokas valtion taloudellisten etujen ajaja, ja hän matkusti usein omalla kustannuksellaan etsimään mahdollisia ulkomaisia sijoittajia ja lahjoitti samalla oman valtion palkkansa hyväntekeväisyyteen. Virkaatekevänä kuvernöörinä 11. syyskuuta 2001, jolloin terroristit hyökkäsivät World Trade Centeriin ja Pentagoniin, hän vastusti hälytyksiä hätätilan julistamisesta ja kehotti sen sijaan Arkansalaisia pysymään rauhallisina ja luovuttamaan verta. Hän sponsoroi Project ChildSafe – nimistä kansallista tuliaseiden turvallisuusohjelmaa, joka on jakanut satojatuhansia ilmaisia liipaisinlukkoja Arkansasissa. Hän oli Arkansas Literary Festivalin kunniapuheenjohtaja. Vuonna 1997 Rockefeller loi Books in the Attic-ohjelman, jossa hyödynnettiin olemassa olevia resursseja, partiolaisia ja vapaaehtoisia, jotta kaikille lapsille taattaisiin lukumahdollisuudet. Vuonna 2004 hän toimi Arkansasin republikaanipuolueen puheenjohtajana.