Ses parents, Jean Jarre et Colette Jarre, sont tous les deux pianistes. Sa sœur Christine est également une artiste connue. Enfant, il apprend à jouer du piano mais se tourne rapidement vers la musique classique grâce à son père.
Il commence sa carrière musicale en 1968 en jouant de l'orgue à l'église Saint-Gervais à Paris, puis devient chef d'orchestre. En 1970, il rencontre Pierre Jacno qui va l'accompagner dans son parcours. Il crée sa première bande originale pour le film La Marge en 1971.
En 1976, Jean-Michel Jarre réalise son premier album solo Oxygène (Oxygene Partie 1). L'album connaît un grand succès et est vendu à plus de huit millions d'exemplaires dans le monde. Il continue avec les albums Équinoxe en 1978, Les Chants Magnetiques en 1981 et les albums Music for Supermarkets en 1983 et Zoolook en 1984 qui connaîtront également un grand succès.
En parallèle de ses albums studios, il se produit en concert à partir des années 1970. Son premier grand spectacle a lieu le 25 juin 1979 à la Concorde française avec près de deux millions de personnes en présence, ce qui établira un record mondial pour les concerts. En 1986, il se produit dans le désert d'Egypte et en 1989 à l'Arc de Triomphe à Paris.
Il continue à se produire sur scène avec des concerts au Paris Longchamp en 2007 et au Stade de France en 2016, ainsi qu'à travers le monde. Il a également donné un grand concert dans l'espace avec la sonde spatial française Arkhiper à bord de la station spatiale Mir en 1995.
Jean-Michel Jarre est décoré chevalier de la Légion d'honneur en 1987 et reçoit la médaille d'or du César en 2009 pour l'ensemble de son œuvre. Il a également été nommé citoyen d'honneur de Paris en 2016.
Jean-Michel Jarre a marqué le paysage musical des années 1970 et 1980 avec ses albums et ses concerts, en faisant de la musique électronique une forme d'art populaire. Sa contribution à ce genre musical ne cesse de croître et il reste un exemple pour les compositeurs actuels.