Né à Nancy en Lorraine, Prouvé a grandi dans une famille d'artisans. Après avoir travaillé comme charpentier, il a fréquenté l'École supérieure des arts décoratifs de Nancy où il a été influencé par les idées de la Nouvelle Objectivité (Nouvelle École de Paris).
Après son service militaire pendant la Première Guerre mondiale, Prouvé a travaillé à Paris pour le célèbre architecte Auguste Perret. En 1924, il a fondé son propre bureau d'architecture à Nancy.
Au début des années 1930, Prouvé a été influencé par les idées de Le Corbusier et s'est tourné vers l'architecture rationnelle et fonctionnelle. Il a conçu plusieurs bâtiments notables dans le courant de la Nouvelle Objectivité, notamment des maisons unifamiliales et des usines.
En 1940, Prouvé a été mobilisé et a travaillé pour l'armée française en tant que constructeur d'infrastructures militaires mobiles. Cette expérience l'a conduit à développer un intérêt pour les structures préfabriquées en métal, qu'il a exploité dans son travail ultérieur.
Après la Seconde Guerre mondiale, Prouvé s'est tourné vers le design industriel et a conçu de nombreux meubles et objets domestiques pour les principales marques françaises, telles que Fama, Stilnovo et Magis. Il est également connu pour ses bureaux préfabriqués en métal, utilisés dans des projets d'habitat collectif en France et à l'étranger.
Jean Prouvé a continué à travailler jusqu'à sa mort en 1984, laissant un héritage significatif dans les domaines de l'architecture moderne et du design industriel. Son travail continue d'être apprécié et est exposé dans des institutions telles que le Musée national d'art moderne de Paris et le MoMA à New York.