Rockefeller 1981-től 1995-ig szolgált az Arkansasi Állami Rendőrség bizottságában. 1991-ben George H. W. Bush elnök kinevezte az amerikai vidéki elnöki Tanácsba, és a Tanács elnöke lett. Az amerikai cserkészek Quapaw területi Tanácsának elnöke volt, és a nemzeti cserkész szervezet igazgatótanácsában szolgált.
Rockefeller először akkor lépett be a választási politikába, amikor szűk győzelmet aratott Arkansas állam szenátora felett Charlie Cole Chaffin, az első nő, akit megválasztottak az Arkansas állam szenátusába, valamint az 1994-es kormányzóhelyettes-jelölt. Az 1996.novemberi rendkívüli választásokat Jim Guy Tucker kormányzó lemondása és Mike Huckabee hadnagy kormányzóvá emelése tette szükségessé. Rockefellert ezt követően 1998-ban újraválasztották egy teljes négyéves ciklusra, a szavazatok 67 százalékával, Dr. Kurt Dilday orvos felett. Ez a különbség sokkal nagyobb, mint az apja által az 1966-os és az 1968-as kormányzóválasztásokon kapott szavazat. Rockefellert 2002-ben ismét megválasztották a szavazatok 60 százalékával Arkansas állam Legfelsőbb Bírósága bíró Ron Sheffield, az első afro-amerikai, akit demokrataként az egész államra jelöltek.
Kormányzóhelyettesként Rockefeller lelkes támogatója volt az állam gazdasági érdekeinek, és gyakran utazott saját költségén, hogy potenciális külföldi befektetőket keressen, miközben saját kormányzati fizetését adományozta jótékonysági célokra. Mint megbízott kormányzó szeptember 11-én, 2001, a nap, amikor a terroristák megtámadták a World Trade Center és a Pentagon, ellenállt hívásokat, hogy állapítsa meg a rendkívüli állapotot, és ehelyett sürgette Arkansans, hogy maradjon nyugodt, és vért adni. Szponzorálta a Childsafe projektet, egy nemzeti lőfegyverbiztonsági programot, amely több százezer ingyenes triggerzárat osztott szét Arkansasban. Az arkansasi Irodalmi Fesztivál tiszteletbeli elnöke volt. 1997-ben Rockefeller létrehozta a Books in the Attic programot, amely a meglévő erőforrásokat, cserkészeket és önkénteseket használja fel, hogy minden gyermek számára hozzáférést biztosítson az olvasási lehetőségekhez. 2004-ben az arkansasi republikánus párt elnöke volt.