Au cours de la guerre franco-prussienne (1870-1871), Faidherbe démontre ses qualités militaires lors des combats de Sedan où il fut grièvement blessé. Il est nommé général en 1872, et prend part à la conquête militaire du Sénégal qui lui vaudra le surnom d'"Africain".
En 1854, il est envoyé au Sénégal comme ingénieur militaire. Il y construit le premier fort de Dakar (Fort Roume), établit des relations avec les autochtones, et crée un réseau routier pour favoriser les échanges commerciaux et la mise en valeur des terres agricoles.
En 1863, il est nommé gouverneur de la colonie du Sénégal. Durant ses années de mandat, Faidherbe lutte contre l'esclavage, favorise l'alphabétisation et la formation professionnelle des jeunes autochtones, et promeut le développement économique de la région. Il fonde notamment les villes de Saint-Louis (1857), Thiès (1854) et Ziguinchor (1890).
En 1869, Faidherbe prend part à l'expédition contre Samory Touré. Il est alors nommé commandant en chef des troupes françaises en Afrique occidentale. Après une longue campagne militaire, il parvient à mettre fin à la résistance de Samory Touré et à annexer le Mande (actuel Mali).
De retour en France en 1890, Faidherbe est élu député de la Charente-Maritime. Il y restera jusqu'à sa mort en 1913. Il fut également nommé gouverneur général du Sénégal et de la Guinée de 1872 à 1875, puis sénateur en 1883.
En reconnaissance de son action en Afrique occidentale, plusieurs villes portent encore le nom de Faidherbe : Dakar (Sénégal), Saint-Louis du Sénégal, Thiès, Ziguinchor et Faidherbeville (Charente-Maritime).