Il était l'arrière-petit-fils du roi Guillaume Ier de Wurtemberg et le fils du prince Louis de Hohenzollern-Sigmaringen (1814-1866) et de la princesse Mathilde de Bade (1832-1902). Friedrich Karl a passé une grande partie de son enfance à Paris, où son père était ambassadeur du royaume de Wurtemberg.
En 1895, il épousa Charlotte de Lippe-Biesterfeld (1868-1946), fille de Léopold IV de Lippe et de la princesse Hermine de Waldeck-Pyrmont. Ils eurent quatre enfants ensemble : Guillaume (1896-1945), Charlotte (1897-1978), Frédéric (1898-1975) et Léopold (1900-1905).
Le 29 mars 1900, le roi Guillaume II de Prusse l'a fait prince de Prusse et lui a accordé les titres héréditaires de duc de Brunswick, duc de Schleswig-Holstein, duc d'Oldenbourg, duc de Mecklembourg-Strelitz, comte de Hohenzollern et prince de Hohenzollern-Sigmaringen.
En tant que membre de la maison de Hohenzollern, il était en lignes directes pour succéder au trône prussien après le prince héritier Guillaume de Prusse, qui n'avait pas d'héritiers mâles. Cependant, son frère aîné Louis, duc de Teck (1837-1921), était en lignes directes pour succéder au trône britannique en tant que mari de la reine Mary du Royaume-Uni (1867-1953).
En 1904, il a succédé à son père comme prétendant au trône du royaume de Wurtemberg, qui avait été supprimé en 1849. En tant que tel, il n'avait pas de pouvoir politique ou militaire réel, mais sa descendance a continué à être considérée comme les héritiers potentiels du trône wurtembergeois jusqu'à l'abolition de la monarchie wurtembergeoise en 1918.
Friedrich Karl von Hohenzollern est décédé le 30 mars 1919 à Sigmaringen, à l'âge de 50 ans. Il fut enterré dans la tombe des Hohenzollern au château de Nymphembourg à Sigmaringen.
Son fils aîné Guillaume a succédé comme prétendant au trône du royaume de Wurtemberg et a été le dernier héritier potentiel du trône wurtembergeois avant l'abolition de la monarchie en 1918.