James Galway est né dans une famille musicale : son père est un violoncelliste amateur, sa mère un choriste. Il commence à apprendre la flûte dès l'âge de huit ans. Après avoir terminé ses études à Belfast, il continue son apprentissage en Allemagne auprès du célèbre flûtiste français Louis Moyse.
Galway fait son premier concert public à l'âge de 15 ans. Son répertoire initial comprend des œuvres classiques comme le Concerto pour flûte de Johann Sebastian Bach et les sonates de Telemann, mais il se tourne rapidement vers la musique contemporaine et devient un défenseur passionné de compositeurs tels que Paul Hindemith, Igor Stravinsky et Alan Rawsthorne.
En 1965, Galway est nommé flûtiste principal du Royal Philharmonic Orchestra à Londres. Il se produit également avec l'Orchestre symphonique de la BBC, les orchestres de New York Philharmonic et de Los Angeles, ainsi que des orchestres d'Europe continentale.
Dans les années 1970, Galway commence à enregistrer pour le label Deutsche Grammophon et réalise une série de disques acclamés par la critique qui lui apportent la célébrité mondiale. Ses interprétations sont marquées par un style très expressif et une grande maitrise technique, ainsi qu'une sensibilité exceptionnelle à l'expressivité musicale.
Outre sa carrière de concertiste, Galway est également un pédagogue très respecté, ayant enseigné la flûte à l'Université Yale et à l'Académie de musique de Nice. Il a également contribué à populariser la flûte traversière par ses nombreuses performances et enregistrements, ainsi que grâce à son livre pour les débutants "The Art of Flute Playing".
En 1996, James Galway est anobli pour services rendus à la musique britannique. Il continue à se produire régulièrement en public et à enregistrer de nouvelles interprétations de la musique classique.