Né dans une famille ouvrière, Louis Michel étudie la philosophie à l'université catholique de Louvain puis exerce diverses fonctions au sein du mouvement scout catholique belge. Il entre en politique active en tant que membre du Parti social-chrétien (PSC), parti dont il deviendra président de la section flamande en 1983.
En 1980, Louis Michel est élu au Sénat et est réélu en 1985, 1987, 1991, 1995, 1999 et 2004. En 1995, il est nommé ministre flamand des Affaires étrangères et européennes. L'année suivante, il devient commissaire européen aux affaires extérieures du gouvernement Santer dans laquelle il succède à Edward McMillan-Scott, qui avait démissionné pour des raisons de santé.
En tant que commissaire, Louis Michel défend une politique active et agitif en matière d'affaires étrangères. Il participe notamment à la négociation du traité de Lisbonne et a joué un rôle important dans la résolution de conflits tels que le conflit israélo-palestinien, le conflit libano-israélien, le conflit russo-géorgien de 2008 et les guerres de Yougoslavie.
En 1999, à la suite des défections au sein du gouvernement Santer, il est remplacé comme commissaire par Chris Patten, mais reste ministre flamand des Affaires étrangères et européennes jusqu'en 2004. À partir de cette date, il devient député européen pour le groupe du Parti populaire européen.
En 2007, Louis Michel présente sa candidature à la présidence du Parti social-chrétien, mais est battu par Yves Leterme. En 2013, il annonce son intention de quitter le PSC pour rejoindre l'Open VLD, nouveau nom donné au parti, qui était alors menacé de dissolution.
Depuis 2014, Louis Michel occupe la fonction de président du Cercle Royal Ganto-Tournaisien (CRGT), une association culturelle et éducative belge.