Après des études classiques, André Jean a suivi des cours du soir avec les jazzmen américains Dizzy Gillespie et Bud Powell en 1949. Il a ensuite rejoint le groupe de Bud Powell en 1950, avec lequel il a effectué plusieurs tournées et enregistrements.
En 1952, André Jean a formé son propre groupe de jazz et a commencé à composer ses propres morceaux, dont les plus connus sont "La Fosse aux chandelles", "Tarantelle pour un homme seul" et "L'Homme qui danse".
En 1957, André Jean a abandonné le jazz pour se consacrer à la composition de musique classique. Il a étudié la composition avec Olivier Messiaen et a reçu des commandes de plusieurs orchestres symphoniques français, dont l'Orchestre National de France, l'Orchestre Lamoureux et l'Orchestre de Paris.
Ses compositions classiques comprennent des œuvres pour piano, des pièces vocales, ainsi que plusieurs ouvertures symphoniques. Son style musical est caractérisé par une grande originalité et une grande émotion, avec une sensibilité qui résonne à la fois avec le jazz de son passé et la musique classique de sa carrière plus tardive.
André Jean a reçu plusieurs distinctions pour son travail, notamment le Grand Prix du Disque en 1962, le Prix SACEM en 1974 et le Prix de la Fondation Gaudeamus en 1983. Il est également membre de l'Académie des Beaux-Arts depuis 1990.
André Jean est considéré comme un musicien exceptionnel, à la fois pour son talent au piano et sa créativité en tant que compositeur. Son travail a eu une grande influence sur les générations suivantes de musiciens français, et il continue d'être salué pour sa contribution unique à la musique classique et à la musique jazz.