Rockefeller a servit din 1981 până în 1995 în Comisia de poliție de Stat din Arkansas. În 1991, a fost numit de președinte George H. W. Bush pentru a servi în Consiliul Președintelui pentru America rurală și a devenit președinte al Consiliului. A fost președinte al Quapaw Area Council al Boy Scouts of America și a servit în Consiliul de administrație al Organizației Naționale de cercetare.
prima incursiune a lui Rockefeller în Politica electivă a venit atunci când a câștigat o victorie îngustă asupra senatorului statului Arkansas Charlie Cole Chaffin, prima femeie aleasă pentru a servi în senatul statului Arkansas și nominalizată în 1994 pentru locotenent guvernator. Alegerile speciale din noiembrie 1996 au fost necesare prin demisia guvernatorului Jim Guy Tucker și ridicarea locotenentului guvernator Mike Huckabee la guvernare. Ulterior, Rockefeller a fost reales în 1998 pentru un mandat complet de patru ani, cu 67% din voturi, față de medicul Dr.Kurt Dilday. Această marjă mult mai mare decât votul primit de tatăl său în alegerile guvernamentale din 1966 și 1968. Rockefeller a fost ales din nou în 2002 cu 60% din voturi, peste Curtea Supremă de Stat din Arkansas judecător Ron Sheffield, primul afro-American nominalizat pentru funcția la nivel de stat ca Democrat.
în calitate de locotenent guvernator, Rockefeller a fost un susținător avid al intereselor economice ale statului și a călătorit adesea pe propria cheltuială pentru a căuta potențiali investitori străini, donând în același timp propriul salariu guvernamental în scopuri caritabile. În calitate de guvernator interimar la 11 septembrie 2001, în ziua în care teroriștii au atacat World Trade Center și Pentagonul, el a rezistat apelurilor de a declara o stare de urgență și, în schimb, i-a îndemnat pe Arkansani să rămână calmi și să doneze sânge. El a sponsorizat proiectul ChildSafe, un program național de siguranță a armelor de foc care a distribuit sute de mii de încuietori de declanșare gratuite în Arkansas. A fost președinte de onoare al Festivalului literar din Arkansas. În 1997, Rockefeller a creat Books in the Attic, un program care utilizează resursele existente, Cercetașii și voluntarii pentru a asigura accesul la oportunități de lectură pentru toți copiii. În 2004, a ocupat funcția de președinte al Partidului Republican din Arkansas.