Après avoir terminé ses études secondaires à l'École secondaire Saint-François-d'Assise de Montréal, il a travaillé dans divers métiers avant de décider de se tourner vers la comédie et l'humour. En 1976, il a remporté le concours d'humour radio de la station CHOM-FM à Montréal, ce qui lui a valu une carrière plus sérieuse dans l'humour.
En 1980, il a débuté à la télévision avec un rôle récurrent dans le feuilleton comique "L'Orphelinat" de Télé-Métropole (aujourd'hui TVA). Il a également joué des rôles récurrents dans les séries télévisées "La Petite Vie" et "Rumeurs".
Cependant, il est surtout connu pour avoir joué le rôle de Réal Couture dans la série télévisée "Réseau" (1987-1995), qui a été diffusée sur Télé-Métropole. Cette série est considérée comme l'une des plus grandes réussites de la télévision québécoise et a valu à Michel Taillefer une célébrité et une popularité durable.
En 1995, il a quitté "Réseau" pour s'adonner à d'autres projets. Il a continué à jouer dans plusieurs productions théâtrales et télévisées, notamment dans la série télévisée "Les Invincibles". Il a également participé à des émissions de radio et de télévision en tant qu'animateur.
En 2005, il a rejoint l'équipe du jeu télévisé "Tout le monde veut prendre sa place", diffusé sur Télé-Québec. Il a continué à jouer dans cette émission jusqu'en 2019, ce qui lui a valu une grande popularité auprès des téléspectateurs.
En plus de sa carrière d'acteur et d'humoriste, Michel Taillefer est connu pour son activisme en faveur de la protection de l'environnement. Il a notamment été président de la Société Saint-Laurent, une organisation écologique québécoise.
En 2017, il a reçu le prix Gémeau d'honneur pour sa contribution exceptionnelle à la télévision québécoise.