Il est né à Louisville, Kentucky et a grandi à Covington, dans le Kentucky du Nord. Il a été diplômé de l'université Harvard en 1856. Plus tard, il a étudié la loi à New York avant de devenir avocat.
En 1863, Ward s'est engagé comme journaliste pour le *New-York Tribune*, où il a écrit des articles en faveur de l'abolition et des droits civiques pour les Noirs. Il était un proche collaborateur de Frederick Douglass, et les deux hommes ont travaillé ensemble à promouvoir la réforme des lois de ségrégation et à favoriser l'inclusion des Afro-Américains dans la politique américaine.
Après la guerre de Sécession, Ward a également été actif en tant que juriste. Il a défendu les droits des Noirs dans plusieurs affaires célèbres, notamment dans l'affaire Plessy v. Ferguson, où il a représenté le plaignant Homer Plessy, un Afro-Américain qui avait refusé de quitter sa place sur un train séparé pour Noirs en Louisiane. L'affaire a abouti à la décision Plessy v. Ferguson (1896), une décision controversée qui a établi le « principe de l'« homogénéité » », considérant que les lois séparées mais égales pour Noirs et Blancs ne violaient pas la Constitution des États-Unis.
Samuel Gray Ward a également travaillé à la création d'un journal bimensuel, *Colored American Magazine*, qui était consacré à l'esthétique, à l'art et aux littératures africaines et africano-américaines.
Enfin, Ward est mort en 1906 et il est enterré dans le cimetière de Green-Wood à Brooklyn, New York. Son œuvre a marqué un tournant important dans la défense des droits civiques pour les Noirs et a contribué à donner une voix aux Afro-Américains lorsque beaucoup d'autres ne l'avaient pas encore.