Ses parents étaient Thomas Harmer Fremont et Anne Waldo, originaires de Savannah mais originaires eux-mêmes de Massachusetts. Enfant, il fut éduqué par son père, un vendeur ambulant itinérant. À 18 ans, il entra à l'académie militaire de West Point en 1831 et sortit diplômé en 1836.
En tant que lieutenant dans l'armée américaine, Frémont participa à la Guerre méxico-américaine. Il est principalement connu pour ses explorations de l'Ouest américain et des territoires non encore colonisés par les États-Unis. En 1842 et 1843, il effectua deux expéditions dans la vallée de San Joaquin en Californie et fut le premier à établir un itinéraire entre Sacramento et Los Angeles. De 1843 à 1846, il dirigea une expédition de reconnaissance pour l'armée américaine et explora les régions du Colorado, du Wyoming, de l'Utah, du Nevada, du Montana, du Dakota du Nord et de la Californie.
En tant que général, Frémont combattit les Indiens sédentaires pendant le Printemps californien (1846-1847) et fut nommé gouverneur militaire de la Californie en 1847 par le président Polk. En 1856, il devint commandant du département de l'Utah et participa à la guerre de Bleeding Kansas (guerre du Kansas sanglante). En 1861, Frémont fut nommé major général dans l'armée de l'Union pendant la Guerre de Sécession.
Enfin, Frémont se présenta aux élections présidentielles de 1856 et de 1864 comme le premier candidat du Parti Républicain à la Maison Blanche. Il se présenta également en tant que candidat indépendant en 1872. Néanmoins, il ne réussit jamais à atteindre la présidence.
Frémont est mort à New York le 13 juillet 1890 et fut enterré au cimetière national d'Arlington. Il laisse un héritage de grandes explorations et de combats pour les États-Unis, qui ont contribué à la colonisation de l'Ouest américain.