Après des études à l'école normale d'instituteurs de Saint-Etienne et à l'Institut d'études théâtrales (IET) à Paris, Kauffmann a commencé sa carrière sur scène au début des années 1970, jouant dans des productions théâtrales telles que "Le Bourgeois Gentilhomme" de Molière et "Hamlet" de Shakespeare.
En 1973, il a été engagé à la Comédie-Française en tant qu'acteur éloquent. Il a continué à jouer dans des productions théâtrales et a également débuté dans le cinéma avec "La Grande Vadrouille" de Gérard Oury en 1980.
Kauffmann est également connu pour son travail à la télévision, notamment dans les séries télévisées "Julien Fontanes, magistrat", "Le juge est une femme" et "Profilage". Il a remporté deux prix Émile-Goudeau du Syndicat français de la critique de théâtre pour ses rôles dans "La Nuit de Varennes" en 1983 et "L'Ombre des otages" en 2015.
En outre, il est le créateur et le metteur en scène du spectacle "L'Événement le plus important depuis que rien d'important n'arrivait", un monologue théâtral de Pierre Salinger qui relate les derniers moments de John F. Kennedy.
Jean-Paul Kauffmann est également connu pour ses activités en faveur de l'environnement et des droits humains. Il a été ambassadeur mondial de la protection de la biodiversité au sein de Green Cross International, une organisation non gouvernementale internationale fondée par Mikhaïl Gorbatchev en 1993.
Kauffmann est marié et est père d'un enfant. Il continue à travailler dans le théâtre et la télévision et est considéré comme l'un des acteurs les plus importants de sa génération en France.