Il est né le 29 mars 1954 à Bruxelles en Belgique. Il a obtenu son diplôme d'ingénieur en physique à l'université catholique de Louvain (UCL) en 1976. Il a poursuivi ses études à l'école nationale supérieure des télécommunications (ENST) et à l'Institut national polytechnique (INP-Rennes), où il a obtenu un doctorat en ingénierie électronique en 1980.
Il a commencé sa carrière dans le domaine de la recherche à l'université catholique de Louvain, puis à l'Institut Néel à Grenoble en France. Il a rejoint l'École supérieure d'informatiques et mathématiques appliquées (ESIMA) de Rennes en 1985, où il a travaillé jusqu'à ce qu'il soit nommé professeur à la faculté des sciences et techniques de l'information (FSTI) de l'université de Paris-Sud en 1990.
Jean-Pierre Verhaeghen est considéré comme un pionnier dans le domaine de l'informatique quantique. Ses recherches se concentrent sur la conception de nouveaux algorithmes pour les systèmes quantiques, ainsi que sur la mise au point d'outils informatiques pour simuler ces systèmes. Il a également travaillé sur la théorie des codes correcteurs de données et la cryptographie quantique.
Il est l'auteur de nombreux articles scientifiques publiés dans des revues académiques renommées telles que Physical Review Letters, Journal of Mathematical Physics et Quantum Information Processing. Il a également écrit plusieurs livres sur les systèmes d'information quantiques et la théorie des codes correcteurs de données.
En 2017, il a reçu le prix Francqui pour ses travaux dans le domaine de l'informatique quantique. Il est également membre de plusieurs sociétés savantes telles que l'Académie européenne des sciences et des arts (AESA) et la Société française de physique (SFP).