Né à Tours dans une famille modeste, Jean Martinon étudie la musique au Conservatoire de Paris avec les chefs d'orchestre Roger-Ducasse et Marcel Couraud, ainsi que le compositeur André Jolivet. Il commence sa carrière comme chef d'orchestre à l'Opéra de Nice en 1934, avant de remporter un concours pour diriger l'Orchestre national de Montpellier en 1936.
En 1940, Martinon est nommé directeur musical de l'Opéra-Comique à Paris et reste à ce poste jusqu'en 1972. Durant cette période, il consacre une grande attention aux opéras français et italiens du XVIIIe siècle et XIXe siècle. Il travaille également avec de nombreux compositeurs contemporains, comme Olivier Messiaen, Pierre Boulez, Darius Milhaud, et Igor Stravinsky.
Martinon dirige également l'Orchestre symphonique de Paris à partir de 1954 jusqu'à sa retraite en 1980. Il est réputé pour son interprétation de la musique de Maurice Ravel, notamment sa "Boléro". Il a également réalisé des enregistrements notables du "Pavane pour une infantie défunte" et de "La Valse".
En plus de son travail avec les orchestres, Martinon a composé une grande quantité de musique symphonique et de musique de chambre. Parmi ses œuvres les plus connues figurent "Concerto pour orchestre" (1958), "Symphonie no 3" (1964) et "Trois danses" (1970).
Jean Martinon a reçu de nombreux prix et honneurs au cours de sa carrière, y compris la Légion d'honneur française. Il est décédé à Paris en 1996 à l'âge de 85 ans. Son travail a eu une grande influence sur la musique classique française du XXe siècle et il reste considéré comme un chef d'orchestre exceptionnellement talentueux.