Après avoir terminé ses études secondaires à Paris, Jean Mahieu s'inscrit au Conservatoire national supérieur d'art dramatique de Paris en 1938, mais la déclaration de guerre et l'occupation allemande interrompent son parcours. Il ne reprendra pas les cours jusqu'en 1945.
Cependant, Jean Mahieu continue à poursuivre sa passion pour le théâtre en jouant dans des troupes provinciales et en faisant de petits rôles au cinéma. C'est grâce à un court-métrage qu'il obtient son premier rôle important au théâtre, dans la pièce "La Pie vireuse" de Georges Feydeau. Cette prestation attire l'attention du public et des critiques, et Jean Mahieu devient rapidement une vedette du petit écran et de la scène parisienne.
Dans les années 1950, Jean Mahieu commence également à tourner pour le cinéma, avec des films comme " Les Portes claquent" en 1954 ou encore "Le Trou normand" en 1956, qui lui valent d'être nommé aux César. Il devient ainsi l'un des acteurs les plus populaires de son temps et continue à jouer dans des films à grand succès jusqu'à sa mort le 30 mars 1989.
Jean Mahieu est également connu pour ses interventions politiques et sociales, qui ont marqué l'histoire du cinéma français. Il a notamment pris position contre la guerre d'Algérie et s'est impliqué dans la défense des droits de l'homme. Son combat contre les discriminations et la lutte pour une société plus justice est resté une source d'inspiration pour beaucoup d'artistes et de militants politiques français.
Aujourd'hui, Jean Mahieu reste un des acteurs français les plus admirés et le souvenir de sa carrière et de son engagement continuent à inspirer des générations de cinéphiles.