Après avoir étudié au Conservatoire national supérieur de musique et de danse de Paris sous la direction de Yvonne Loriod, épouse de Messiaen, il est diplômé en 1978 avec les honneurs. En 1981, Thibaudet remporte le Concours international de piano Long-Thibaud Crespin à Paris et est lauréat du concours Arthur Rubinstein en 1985.
Sa carrière internationale prend son envol lorsqu'il remplace Daniel Barenboim pour jouer avec l'Orchestre philharmonique de Berlin sous la direction de Claudio Abbado. Il a depuis joué avec de nombreuses orchestras prestigieuses, notamment les orchestres symphoniques de Chicago, Boston, New York, Londres et Los Angeles, ainsi que l'orchestre philharmonique de Vienne et l'orchestre royal du Concertgebouw d'Amsterdam.
En plus de sa carrière en soliste, Jean-Yves Thibaudet a également travaillé avec des chefs d'orchestre tels que Bernard Haitink, Esa-Pekka Salonen, Zubin Mehta, Kurt Masur et Lorin Maazel. Il est également connu pour son travail en tant que soliste de chambre et a joué avec des musiciens tels que Jacques Léonard, Pinchas Zukerman et Yo-Yo Ma.
En plus de sa carrière en concert, Jean-Yves Thibaudet est professeur à l'Université de Southern California (USC) dans la Thornton School of Music depuis 2016 et est également directeur musical invité du Festival de musique de La Roque d'Anthéron.
Jean-Yves Thibaudet a enregistré une grande variété de répertoire pour des labels tels que Deutsche Grammophon, Erato, Sony Classical et Decca Classics. Il est notamment connu pour ses interprétations d'œuvres de Mozart, Ravel, Debussy, Chopin et Liszt, ainsi que pour sa collaboration avec des compositeurs contemporains tels que Pierre Boulez, John Corigliano, George Gershwin et Henri Dutilleux.
Il a été nommé Officier de la Légion d'honneur par le Président de la République française en 2015 et a reçu le prix Aventis pour la musique classique en 2016.