Dans sa jeunesse, Tony Coe a été fortement influencé par Charlie Parker et Lester Young, deux grands saxophonistes du jazz. Il a commencé à jouer du saxophone tenor à l'âge de 15 ans et a rapidement rejoint des groupes locaux dans lesquels il a appris la technique de l'improvisation.
En 1954, il a été invité à intégrer le groupe de Humphrey Lyttelton, qui était déjà très connu à l'époque en Grande-Bretagne. Il est resté avec ce groupe pendant plusieurs années et a joué sur de nombreux enregistrements, notamment le tube "Bad Penny Blues".
En 1960, il a rejoint le groupe de Chris Barber, qui était également très populaire en Grande-Bretagne. Il est resté avec ce groupe pendant plusieurs années et a joué sur un certain nombre d'enregistrements, notamment sur la chanson "Midnight in Moscow".
En 1962, il a rejoint le groupe de Tubby Hayes, qui était considéré comme l'un des meilleurs groupes de jazz britanniques. Il est resté avec ce groupe pendant plusieurs années et a joué sur une grande variété d'enregistrements.
Tony Coe a également enregistré plusieurs albums solo ou en duo, ainsi que avec d'autres musiciens importants tels que Ronnie Scott, Art Themen et Dick Morrissey. Il est considéré comme un des saxophonistes les plus talentueux de Grande-Bretagne et son style unique a marqué le jazz britannique pendant plusieurs décennies.
Au cours de sa carrière, Tony Coe a reçu plusieurs récompenses pour son travail, dont le British Jazz Award du meilleur soliste en 1978 et la Lifetime Achievement Award du British Jazz Awards en 2004. Il est également membre honoraire de la London School of Saxophone, une école de jazz basée à Londres.
Au cours de sa carrière, Tony Coe a joué pour des milliers de fans de partout dans le monde et a contribué à faire connaître le jazz britannique au-delà des frontières nationales. Sa musique restera une référence importante pour les futurs générations de saxophonistes britanniques.