Né à Chicago en 1910, il grandit dans une famille aisée et passa son enfance au Royaume-Uni jusqu'à l'âge de 8 ans. Son père, un homme d'affaires prospère, avait fondé la compagnie de charbon Western Fuel Corporation et possédait plusieurs usines aux États-Unis et en Angleterre.
Hammond revint à Chicago en 1920 où il découvrit le jazz grâce à un ami qui lui montra l'improvisation de Louis Armstrong sur un disque. Il commença alors à collectionner des enregistrements de jazz, et dès 1927, il fut invité à participer au comité des disques de la radio de l'université Northwestern.
Après avoir obtenu son diplôme, Hammond travailla dans le monde des affaires et devint vice-président de sa famille entreprise Western Fuel Corporation en 1940. Cependant, sa passion pour le jazz ne fut jamais oubliée, et il produisit plusieurs enregistrements à titre personnel dans les années 1930 et 1940.
En 1937, il produisit une session d'enregistrement avec Count Basie et Billie Holiday, qui fut un énorme succès. Il continua à produire des sessions avec de nombreux autres artistes de jazz par la suite, dont Lester Young et Benny Goodman.
Hammond était également connu pour son engagement en faveur des droits civiques des Afro-Américains. En 1942, il se vit accuser de soutenir activement les mouvements de protestation contre la ségrégation raciale et fut arrêté avec plusieurs autres personnes pour avoir organisé une manifestation à Washington.
En 1957, Hammond fonda son propre label de disques, appelé Vocalion Records, qui fut renommé Verve Records en 1960. Il produisit des enregistrements avec de nombreux grands artistes de jazz dans les années 1950 et 1960, dont Miles Davis, Thelonious Monk et Charles Mingus.
Hammond décéda à New York en 1987 à l'âge de 77 ans. Son influence sur le jazz a été considérable, et il est toujours considéré comme un des plus grands producteurs de jazz de tous les temps.