En 1983, Jean-François Chossy est nommé chef d'orchestre adjoint de l'Orchestre philharmonique de Radio France, puis devient chef titulaire en 1987. Il occupe cette fonction jusqu'en 1994 et enregistre plusieurs disques avec l'orchestre, notamment des enregistrements de la symphonie n°6 de Gustav Mahler et de la symphonie n°3 de Jean Sibelius.
En 1987, Jean-François Chossy est également nommé directeur musical de l'Orchestre philharmonique de Liège et occupe cette fonction jusqu'en 1992. Pendant son mandat, il a dirigé des productions d'opéra à la Liège Opera House, notamment une production de l'opéra "Tristan et Isolde" de Richard Wagner en 1988.
En 1990, Jean-François Chossy est nommé chef invité permanent de l'Orchestre symphonique de la NDR à Hanovre, où il occupe cette fonction jusqu'en 2006. Il a enregistré plusieurs disques avec l'orchestre, notamment une série d'enregistrements complets des symphonies de Gustav Mahler.
Jean-François Chossy est également connu pour son travail en tant que chef invité et interprète de musique contemporaine. Il a dirigé des productions d'opéra à la Scala di Milano, à l'Opéra national de Paris et au Festival de Salzbourg, notamment une production de l'opéra "Doctor Atomic" de John Adams en 2015.
En plus de sa carrière de chef d'orchestre, Jean-François Chossy est également un compositeur reconnu. Ses compositions ont été jouées dans de nombreux festivals internationaux et ont été enregistrées par des orchestres tels que l'Orchestre symphonique de la NDR et l'Orchestre philharmonique de Radio France.
En 2017, Jean-François Chossy est nommé directeur musical du Festival international d'art lyrique d'Aix-en-Provence, où il a dirigé des productions d'opéra tels que "Les Indes galantes" de Jean-Philippe Rameau et "Le Comte Ory" de Rossini.
Jean-François Chossy est également professeur invité à l'université de Liège et au Conservatoire national supérieur de musique et de danse de Paris. Il a également été membre de l'Académie royale des Sciences, des Lettres et des Beaux-Arts de Belgique.
En 2019, Jean-François Chossy a reçu le prix Beaumarchais pour sa contribution à la musique contemporaine française.