Après des études de lettres modernes à la Sorbonne, Joseph Villiet a rejoint l'École nationale supérieure des arts et techniques du théâtre (ENSATT) à Créteil pour se former à la comédie et à la mise en scène.
En 1982, il a commencé sa carrière à la télévision avec des rôles dans des émissions comme Les Enquêtes du Commissaire Maigret, Navarro ou encore Les Cordier, juge et flic.
Pendant les années 1980, il est apparu dans plusieurs longs métrages de cinéma, comme La Dernière Folie de Claude Zidi en 1982, Le Roi danse en 1984 ou encore Trop belle pour toi en 1987.
En 1989, il a joué son premier rôle principal dans un film : L'Amour en douceur de Jean-Claude Roy. C'est à partir de ce moment qu'il commence à se faire connaître du grand public français.
Au cours des années 1990 et 2000, Joseph Villiet a tourné dans diverses productions télévisées et cinématographiques. On peut citer, entre autres, Le Groupe des neuf de René Manzor en 1993, Ma femme me quitte tous les jours de Patrick Volson en 1995 ou encore L'École pour tous de Didier Bourdon et Bernard Campan en 2006.
En parallèle à sa carrière d'acteur, Joseph Villiet a également réalisé plusieurs longs métrages, dont Le Petit Poucet de Jean-Claude Roy (1984), L'Homme qui regardait passer les trains de Patrice Ambard (1997) et Une forêt pour deux en 2006.
En 2017, il est revenu sur grand écran avec la comédie Les Mentals sortant de l'enfer de Gérard Jugnot.
Joseph Villiet a également fait ses débuts à la télévision en tant que réalisateur avec le téléfilm Loin d'ici, où il a également joué un rôle principal.
En 2019, il a été nommé au Molière du comédien dans un second rôle pour son interprétation de Georges Feydeau dans La Puce à l'oreille au Théâtre des Bouffes-Parisiens.
Depuis 1988, Joseph Villiet est marié à la productrice et réalisatrice Christine Dupont, avec qui il a eu deux enfants : Margot et Victor.