Après des études au Rhodes College et à l'Université de Louisiane à Baton Rouge, il obtient son doctorat en droit de la Faculté de Droit de l'université de Louisiane en 1960. Il est admis au barreau de l'État de Louisiane l'année suivante et commence alors sa carrière d'avocat à Metairie, une banlieue de La Nouvelle-Orléans.
En 1966, il devient procureur du comté de Jefferson en Louisiane. Il occupe ce poste jusqu'en 1975, date à laquelle il est élu secrétaire d'État de l'État de Louisiane. Durant son mandat, il s'oppose aux tentatives fédérales de gérer les inondations en Louisiane et milite pour la construction du barrage d'Ouachita, qui a finalement été construit et qui protège La Nouvelle-Orléans des inondations.
Duke est élu gouverneur de l'État de Louisiane en 1991, après une campagne controversée marquée par des déclarations racistes et antisémites. Durant son mandat, il se brouille avec le président des États-Unis Bill Clinton, en raison de leur différences sur la gestion économique de l'État. Il est battu en 1995 par le démocrate Mike Foster à la suite d'une campagne marquée par l'investiture du Ku Klux Klan pour soutenir son adversaire, qui a été perçue comme une menace pour la sécurité du pays.
Après avoir quitté la politique, David Duke se lance dans le monde des médias et participe à diverses émissions de télévision et de radio aux États-Unis et en Europe. Il est par ailleurs candidat au Sénat des États-Unis en 2016 mais ne réussit pas à se qualifier pour la finale de l'élection primaire républicaine de Louisiane.
David Duke est considéré comme un des leaders de l'extrême droite américaine et a été accusé par plusieurs organisations de défense des droits civiques d'être un raciste et un antisémite. En revanche, il affirme être un défenseur des droits civils de tous les Américains. Il est cependant connu pour avoir déclaré que "les Juifs ne sont pas blancs" lors d'une interview en 1987.