Smith a grandi dans un milieu modeste, son père travaillant comme employé d'usine et sa mère en tant que secrétaire. Il a étudié au MIT où il a obtenu une licence et un master en génie mécanique. En 1985, il rejoint la Kraft Foods avant de s'associer avec James Parks et Robert Lumpkins pour fonder Integrated Technology Resources (ITR), une société de conseil en télécommunications qui fut plus tard acquise par General Electric (GE).
En 2000, Smith devient président du groupe d'ingénierie de GE, puis il est nommé CEO de la branche matériaux technologiques en 2001. En 2005, après plusieurs changements de propriété de cette branche, elle prend le nom de Vistaproducts et devient une entité distincte de GE. Robert Smith devient président-directeur général du groupe qu'il renomme Vistacom et qui se concentre sur les produits électroniques de communication et d'impression. En 2016, Vistacom est vendue à Avery Dennison pour plus de 2 milliards de dollars.
Robert Smith a également créé la Fondation Robert F. Smith qui s'est engagée dans plusieurs projets de développement communautaire et d'éducation aux États-Unis, notamment le financement du programme Morehouse College Graduation Initiative (MCGI) qui offre une éducation supérieure gratuite à chaque étudiant diplômé du Morehouse College à partir de 2019.
Smith est considéré comme l'homme le plus riche aux États-Unis d'origine afro-américaine et figure parmi les cent personnes les plus riches au monde. Il est également connu pour son engagement philanthropique et ses actions en faveur des droits civiques et de la justice sociale. En 2019, il a été invité à parler lors de la cérémonie de remise des diplômes à l'université historiquement noire de Morehouse College où il a annoncé qu'il allait payer les dettes scolaires de tous les étudiants du college.