Né dans une famille aisée, Franklin Van Valkenburgh fréquenta l'Académie navale d'Annapolis, qu'il termina en 1879. Il entama sa carrière comme officier de marine sur des navires de surface. En 1893, il fut transféré dans la branche sous-marine nouvellement créée et participa à l'amélioration du USS Holland, premier sous-marin de guerre américain.
En 1904, Van Valkenburgh devint le commandant en chef de la première escadre sous-marine, stationnée à Manila aux Philippines. Il y démontra ses compétences tactiques en menant plusieurs opérations militaires sous-marines réussies contre les forces japonaises durant la révolte des Boxers (1899-1901) et la guerre russo-japonaise (1904-1905).
En 1906, il devint l'officier en second du USS Connecticut, le premier sous-marin américain à être équipé de torpilles électriques. Il commanda ensuite l'USS Dolphin et l'USS Narwhal, deux des plus grands sous-marins de l'époque, avant d'être nommé chef des opérations sous-marines en 1908.
Van Valkenburgh fut responsable de la mise au point de nombreux avancées techniques dans les domaines de la construction et du fonctionnement des sous-marins américains. Il contribua à la création de la base sous-marine de New London, dans le Connecticut, qui devint le plus grand centre de formation pour les officiers sous-mariniers américains pendant la Seconde Guerre mondiale.
Son service militaire s'achève en 1920, lorsqu'il est nommé commandant des forces navales de l'Atlantique. Il prit sa retraite de l'armée de terre cinq ans plus tard.
Franklin Van Valkenburgh est décédé à Miami en 1947 et repose au cimetière national d'Arlington. Son nom est inscrit sur la plaque des officiers sous-mariniers morts pour leur pays dans la salle des héros de l'académie navale d'Annapolis.