Rockefeller ha prestato servizio dal 1981 al 1995 nella Commissione di polizia dello Stato dell’Arkansas. Nel 1991, fu nominato dal presidente George H. W. Bush per servire nel Consiglio del Presidente sull’America rurale e divenne presidente del consiglio. È stato presidente del Quapaw Area Council dei Boy Scouts of America e ha fatto parte del consiglio di amministrazione della national Scouting organization.
La prima incursione di Rockefeller nella politica elettiva è arrivata quando ha vinto una vittoria di stretta misura sul senatore dello Stato dell’Arkansas Charlie Cole Chaffin, la prima donna eletta a servire nel Senato dello Stato dell’Arkansas e il candidato 1994 per il vice governatore. L’elezione speciale del novembre 1996 fu resa necessaria dalle dimissioni del governatore Jim Guy Tucker e dall’elevazione del luogotenente governatore Mike Huckabee al Governatorato. Rockefeller è stato successivamente rieletto nel 1998 per un intero mandato di quattro anni con il 67 per cento dei voti, oltre medico Dr. Kurt Dilday. Questo margine di gran lunga superiore al voto ricevuto da suo padre nelle elezioni governatoriali del 1966 e del 1968. Rockefeller è stato eletto ancora una volta nel 2002 con il 60 per cento dei voti, sopra Arkansas State Corte Suprema Giudice Ron Sheffield, il primo afro-americano nominato per l’ufficio in tutto lo stato come un democratico.
Come Luogotenente Governatore, Rockefeller era un avido sostenitore degli interessi economici dello stato, e spesso viaggiava a proprie spese per cercare potenziali investitori stranieri, mentre allo stesso tempo donava il proprio stipendio governativo in beneficenza. Come Governatore ad interim l ‘ 11 settembre 2001, il giorno in cui i terroristi hanno attaccato il World Trade Center e il Pentagono, ha resistito alle richieste di dichiarare lo stato di emergenza e ha invece esortato gli Arkansan a mantenere la calma e a donare il sangue. Ha sponsorizzato Progetto ChildSafe, un programma nazionale di sicurezza delle armi da fuoco che ha distribuito centinaia di migliaia di serrature trigger gratuiti in Arkansas. È stato presidente onorario dell’Arkansas Literary Festival. Nel 1997, Rockefeller ha creato Books in the Attic, un programma che utilizza risorse esistenti, Boy Scout e volontari per garantire l’accesso alle opportunità di lettura per tutti i bambini. Nel 2004, è stato presidente del Partito Repubblicano dell’Arkansas.