Né à Frederick, Maryland, il était le fils de Thomas Key, avocat, juge et homme politique, et de Mary Tayloe Key. Après ses études à l'université d'Éton, en Angleterre, Key a étudié le droit à Philadelphie, puis s'est installé à Frederick où il pratiqua le droit et devint un membre influent de la communauté.
Key était également un poète amateur prolifique qui écrivait sous divers pseudonymes. Il fut impliqué dans la politique locale et nationale en soutenant les causes fédéralistes et anti-esclavagistes. En 1803, il épousa Mary Taylor, avec qui il eut sept enfants.
En 1814, pendant la guerre anglo-américaine de 1812, Key se trouvait à Baltimore lorsqu'il fut capturé par les Britanniques et détenu sur une navire au large de la côte de l'État du Maryland. Il était chargé de négocier le transfert des prisonniers américains en Angleterre, mais il souhaitait également obtenir l'autorisation d'inspecter les forces britanniques qui s'approchaient de la forteresse de Fort McHenry.
Key observa le siège de Baltimore et nota qu'une grande flotte de vaisseaux anglais bombardait la forteresse tous les jours, mais que les Américains parvenaient à la défendre grâce aux canons de la forteresse. Après cinq jours, Key constata que le siège était cessé et qu'il pouvait retourner dans sa ville natale.
Quand il débarqua à Baltimore, il vit la forteresse flottante avec ses drapeaux américains stillants, et émit une exclamation de joie. Il écrivit alors les paroles du "The Star-Spangled Banner," en s'inspirant des événements qu'il venait d'observer.
Le poème fut publié dans un journal local le lendemain, et devint rapidement populaire. Deux ans plus tard, en 1816, il fut mis à la musique de l'air melody "To Anacreon in Heaven." Cet air musical avait été composé trente ans plus tôt par John Stafford Smith.
Key continua à pratiquer le droit et à participer à la politique jusqu'à sa mort, qui survint en 1843. Il fut enterré dans l'église de Saint-Jean, à Baltimore, où ses restes reposent toujours. Son tombeau est un monument national des États-Unis depuis 1906.
En plus de "The Star-Spangled Banner," Key a écrit une autre chanson populaire : "When the Waves of Parting Roll." Il est considéré comme l'un des premiers membres du groupe littéraire de Baltimore, les "Korner Clubbers" et il fut un membre fondateur de la Société historique de Maryland.