Il a commencé sa carrière en tant que scénariste pour la télévision dans les années 1960. Son premier long métrage, *Le Voyou*, sorti en 1973, est une comédie policière avec Louis de Funès et Michel Galabru.
En 1978, il réalise *Les Témoins muets*, un film dramatique qui raconte l'histoire d'un homme handicapé mental qui vit seul dans la campagne et qui est victime de vols répétés. Le film est acclamé par la critique et reçoit le César du meilleur scénario original en 1979.
En 1986, il sort *Le Coup du parapluie*, un thriller policier avec Jean-Paul Belmondo dans le rôle d'un détective privé qui enquête sur une série de meurtres. Le film est un succès commercial et reçoit des critiques mitigées.
En 1990, il réalise *Trois places pour le 26*, un film comique avec Michel Serrault et Jacques Villeret dans les rôles principaux. Le film est un succès commercial et est nommé au César du meilleur scénario original en 1991.
En 2005, il sort *Les Mots pour le dire*, un film dramatique autobiographique qui raconte l'histoire d'un vieil homme qui tente de retrouver sa famille après avoir été séparé d'elle pendant plus de cinquante ans. Le film est acclamé par la critique et reçoit plusieurs nominations aux César, dont celui du meilleur scénario original.
Jean-Paul Muel a également travaillé pour la télévision tout au long de sa carrière, en réalisant des séries télévisées comme *Les Enquêtes du commissaire Maigret* et *Navarro*.
En 2018, il sort son dernier film, *Le Grand Bain*, une comédie dramatique sur la natation synchronisée masculine. Le film est un succès commercial et reçoit des critiques positives.