Il a commencé sa carrière dans les années 1980 en tant que comédien dans des pièces de théâtre et des émissions télévisées. C'est en 1984 qu'il obtient le rôle pour lequel il est le plus connu, celui du personnage Réjean, surnommé « la fausse couche », dans l'émission radiophonique humoristique Le Sous-sol qui se produit sur les ondes de CHOM-FM.
En 1987, il joue le rôle principal du film La Fausse Couche, adapté de la série radiophonique et réalisé par André Melançon. L'année suivante, il tente sa chance à la télévision avec l'émission télévisée Le Show de Marteaux, qui met en vedette les personnages Réjean et son ami Toto, interprété par Mario Saint-Amand.
Dans les années 1990, il multiplie les apparitions à la télévision dans des émissions telles que Les Simples Gens, Les Justiciers de l'ombre et Lance et Compagnie. Il joue également quelques rôles au cinéma, notamment dans le film La Vie secrète des adultes en 1998.
En 2003, il rejoint les ranks de la troupe de Radio-Canada pour l'émission humoristique Les Bougonnes, où il interprète le personnage de Gérard, un médecin qui possède une grande aigrette. L'année suivante, il est à l'affiche du film Le Dîner de cons, dans lequel il joue un des convives invités au dîner.
En 2011, il est nommé membre de l'Ordre national du Québec en reconnaissance de ses contributions remarquables à la société québécoise en tant qu'artiste et humoriste.
Actuellement, Jean-François Martial est l'un des humoristes les plus populaires du Québec et continue à faire rire les Québécois avec ses sketches et ses apparitions sur la scène de Radio-Canada.