Né à Alger en Algérie française, Dieudonné étudia à l'École normale supérieure (Paris) où il obtint son diplôme d'ingénieur physicien en 1928 et un doctorat en mathématiques en 1930. Il entama une carrière académique remarquable, enseignant à l'université de Strasbourg puis à l'École normale supérieure de Paris et à l'Institut Henri-Poincaré, devenant professeur à la Sorbonne en 1950.
En 1935, Dieudonné épousa Simone Cartan, une mathématicienne elle-même remarquable, fille de la fameuse géomètre Élie Cartan. Le couple eut trois enfants, dont les mathématiciens Claude et Frédéric Dieudonné.
Au cours de sa carrière, Dieudonné publia plus de 50 livres et près de 600 articles scientifiques. Il fut l'un des principaux contributeurs à la théorie des groupes en utilisant les idées de Galois et d'Alexandre Ostrowski pour établir un lien entre les structures de groupes algébriques simples et les courbes modulaires.
En 1934, Dieudonné reçut le Prix Bordin de l'Académie française pour son travail sur la théorie des groupes finis. Il fut élu à l'Académie des sciences en 1952 et à l'Académie française en 1967. En 1980, il reçut la Médaille Fields, le plus prestigieux prix de mathématiques, pour son travail sur les espaces de Banach.
En plus de ses réalisations mathématiques, Dieudonné était également connu pour sa philosophie et ses idées politiques. Il fut un ardent défenseur des idées libérales et antifascistes, et il fut emprisonné par les Allemands occupants lors de la Seconde Guerre mondiale pour sa résistance au régime nazi.
Jean Dieudonné est mort à Paris en 1992 à l'âge de 86 ans. Son travail a été une source d'inspiration et de guise pour les générations de mathématiciens qui ont suivi, et il reste un symbole du génie et de l'esprit critique dans le monde des mathématiques.