Il commença sa carrière littéraire en publiant des nouvelles dans diverses revues littéraires et en écrivant pour les journaux régionaux. En 1985, il publia son premier roman intitulé "L'Île de verre", qui connut un grand succès critique et commercial. Depuis lors, Jean Villepique est considéré comme l'un des auteurs les plus prometteurs de sa génération.
En 1987, il commença à écrire pour le journal "Le Monde", où il devient rapidement un chroniqueur régulier, particulièrement apprécié pour son style élégant et poétique. Il traitait d'une grande variété de sujets, allant du cinéma au théâtre, en passant par la littérature, la politique et l'art contemporain.
En 1994, Jean Villepique publia "La Maison des roses", qui est considéré comme son meilleur livre jusqu'à présent. L'ouvrage fut un grand succès critique et remporta le prix Goncourt la même année. Il reçut également le Grand Prix du roman de l'Académie française pour cet ouvrage.
En 2013, il publia "Les Mémoires d'un fantôme", qui fut un autre grand succès critique et commercial. L'ouvrage aborde la question de la mémoire collective et du passé, thème récurrent dans l'œuvre de Jean Villepique.
Au-delà de sa carrière d'écrivain, Jean Villepique est également connu pour son activisme en faveur des droits humains et de l'environnement. Il est notamment membre fondateur de la Fondation des écrivains pour les droits humains.
Depuis quelques années, Jean Villepique se consacre également à l'écriture de pièces de théâtre et de scénarios cinématographiques, travaillant régulièrement avec de grands réalisateurs français.