Rockefeller tjänstgjorde från 1981 till 1995 på Arkansas State Police Commission. 1991 utsågs han av President George H. W. Bush att tjäna i presidentens råd om landsbygdens Amerika och blev ordförande för rådet. Han var ordförande för Quapaw Area Council of the Boy Scouts of America och tjänstgjorde i styrelsen för national Scouting organization.
Rockefellers första razzia i valfri politik kom när han vann en smal seger över Arkansas State Senator Charlie Cole Chaffin, den första kvinnan som valdes för att tjäna i Arkansas State Senate och 1994 nominerad till Löjtnantguvernör. Specialvalet i November 1996 krävdes av guvernörens avgång Jim Guy Tucker och höjningen av Löjtnantguvernören Mike Huckabee till guvernörskapet. Rockefeller omvaldes därefter 1998 till en hel fyraårsperiod med 67 procent av rösterna, över läkare Dr.Kurt Dilday. Denna marginal är mycket större än den röst som hans far fick i guvernörsvalet 1966 och 1968. Rockefeller valdes återigen 2002 med 60 procent av rösterna, över Arkansas State Supreme Court Justice Ron Sheffield, den första afroamerikanska nominerade till statewide office som demokrat.
som Löjtnantguvernör var Rockefeller en ivrig förespråkare för statens ekonomiska intressen, och han reste ofta på egen bekostnad för att söka potentiella utländska investerare, samtidigt som han donerade sin egen Statliga lön till välgörenhet. Som tillförordnad guvernör den 11 September 2001, dagen terrorister attackerade World Trade Center och Pentagon, motsatte han sig samtal för att förklara undantagstillstånd och uppmanade istället Arkansaner att förbli lugna och donera blod. Han sponsrade Project ChildSafe, ett nationellt skjutvapensäkerhetsprogram som har distribuerat hundratusentals gratis utlösningslås i Arkansas. Han var hedersordförande för Arkansas Literary Festival. 1997 skapade Rockefeller böcker på vinden, ett program med befintliga resurser, pojkscouter och volontärer för att säkerställa tillgång till läsmöjligheter för alla barn. År 2004 tjänstgjorde han som ordförande för Arkansas Republikanska partiet.