Il a commencé sa carrière sur la scène théâtrale en jouant des seconds rôles au théâtre Marigny et à la Comédie des Champs-Élysées. Il a fait ses débuts à la télévision dans l'émission télévisée *Les Enfants du rock* en 1987, avant de faire une apparition remarquée dans le film *Trois places pour le 26* de Jacques Rivette en 1988.
En 1990, il a rejoint la compagnie théâtrale de Gilles Bouillon et a joué dans des pièces telles que *Le Conte d'hiver*, *Les Femmes savantes* et *Les Fourberies de Scapin*. Il a également participé à l'émission télévisée *Nulle part ailleurs* en tant qu'imitateur.
Il a connu le succès grâce à son rôle dans la série télévisée *Caméra Café*, où il incarnait le personnage de Didier, un jeune homme de milieu populaire qui rêve de devenir acteur et qui travaille en tant qu'agent de location. La série a été diffusée de 1996 à 2005 sur France 2 et a reçu plusieurs prix, notamment le Grand Prix du Festival de la fiction TV de Monte-Carlo en 1998.
En parallèle de sa carrière télévisuelle, Jean Marc Serraille a continué à jouer au théâtre, notamment dans *La Cage aux folles* de Jean Poiret et dans *Les Petits Bourgeois* d'Albert Capelier. Il a également travaillé comme réalisateur pour des émissions télévisées telles que *On n'est pas couché* et *Vivement dimanche !*.
En 2013, il a rejoint la distribution de la série télévisée *Bref*, où il incarnait le rôle d'Albert. Il est également apparu dans des films tels que *Mafiosa* (2006), *La Fille du puisatier* (2008) et *Ce qu'on a faite à Lisbonne* (2014).
En 2017, il a remporté le Grand Prix de la Fiction TV de Monte-Carlo pour son rôle dans la série télévisée *Babylone*. Il continue à travailler à la télévision et au théâtre.