D'abord joueur au Stade Rennais, il termine sa carrière sur les terrains en 1987, après des passages successifs dans l'équipe première du Stade Rennais, du Paris Saint-Germain et du RC Lens. Il est capitaine de l'équipe de France amateurs lors de la Coupe du monde universitaire 1980.
Après sa carrière de joueur, Paul Le Guen se reconvertit en entraîneur. En 2000, il devient entraîneur du FC Rennes et remporte le titre de Champion de France de Ligue 2 en 2003. Il s'engage ensuite avec l'équipe nationale de Tunisie, qu'il mène à la Coupe d'Afrique des Nations en 2004.
En juin 2005, il est nommé sélectionneur de l'équipe de France et remplace Jacques Santini. Il ne parvient pas à qualifier l'équipe de France pour la Coupe du Monde de Football de 2006, ce qui entraîne son licenciement en novembre 2005.
Après son passage à la tête de la sélection française, Paul Le Guen effectue une courte parenthèse en Ligue arabe et devient l'entraîneur du club émirati d'Al Ain FC en janvier 2006, remportant le championnat des Émirats arabes unis cette année-là . Il quitte ensuite le club pour entraîner l'équipe de France des espoirs.
En juin 2008, il est nommé à la tête du club russe du Zénith Saint-Pétersbourg et mène l'équipe jusqu'au titre de Champion de Russie en 2010. Il quitte le club en octobre 2013 après des différends avec la direction du club.
En novembre 2014, il est nommé à la tête du sélectionneur de l'équipe de Roumanie et remporte la Coupe de la Ligue roumaine en 2015 avec le club d'Astra Giurgiu. Il quitte son poste en septembre 2016.
En novembre 2017, il est nommé entraîneur du club qatari d'Al Rayyan SC et mène l'équipe jusqu'au titre de Champion de Qatar en 2018. Il quitte le club en juillet 2019 après des désaccords avec la direction du club.
Paul Le Guen est actuellement sans club, mais reste un des entraîneurs les plus expérimentés et titrés de football français.