Il est né à Vohburg an der Donau, en Bavière, dans une famille juive Ashkenaze. Sa famille s'installa aux États-Unis en 1854 et il grandit à New York. Il obtint son diplôme de baccalauréat au City College of New York en 1870.
Adler a étudié la philosophie à l'Université Johns Hopkins, où il a obtenu un doctorat en 1875. Sa thèse portait sur l'étude de l'histoire des idées politiques en Allemagne depuis Kant jusqu'à la fin du XIXe siècle.
Adler fut professeur à l'Université Columbia pendant une période de dix-neuf ans, de 1876 à 1895, où il a enseigné la philosophie morale et politique. Pendant cette période, il est devenu le leader du mouvement juif réformiste aux États-Unis.
En 1878, Adler fonda l'Union américaine pour les travailleurs juifs (Jewish Labor Union), qui a fusionné avec d'autres groupes pour former la Workmen's Circle en 1900. Il était un défenseur de l'égalité des droits pour les ouvriers juifs, et travaillait notamment à améliorer les conditions de travail pour eux.
En 1876, il cofonda la Société étudiante juive (Jewish Students' Society) avec Michael Friedlander et Ignatius Hymen Brine, qui était un club intellectuel destiné à permettre aux étudiants juifs de renforcer leur identité culturelle tout en prenant conscience de leurs responsabilités civiques.
En 1879, Adler cofonda l'Union pour la réforme sociale (Social Reform Union), qui a joué un rôle important dans le mouvement ouvrier aux États-Unis à cette époque.
En 1889, Adler fonda le Settlement House de New York (University Settlement), qui fut le premier établissement du mouvement des colonies universitaires aux États-Unis et qui est toujours en activité aujourd'hui. Ce centre communautaire visait à offrir des services sociaux, culturels et éducatifs aux habitants pauvres de l'arrondissement Lower East Side.
En 1891, Adler cofonda la Free Synagogue de New York (Synagogue Libre de New York), qui se consacrait à la fusion du judaïsme et des idées libérales en ce qui concerne les questions sociales. Il y a servi comme rabbin jusqu'à sa mort en 1933.
Adler a également été le fondateur de l'Union pour la justice mondiale (World Moot Court Association) en 1895, dont l'objectif était de préparer des étudiants à devenir avocats et juges. Cette organisation est toujours active aujourd'hui.
Dans son ouvrage le plus connu, "Le judaïsme et la philosophie" (1893), Adler a développé ses idées sur l'importance de la philosophie juive dans la vie quotidienne des Juifs et la nécessité d'intégrer les idées libérales modernes à la vie religieuse juive.
En 1908, il cofonda le Conseil national juif (National Jewish Council) pour coordonner l'action politique des Juifs aux États-Unis et combattre l'antisémitisme. Adler fut également un ardent défenseur des droits civiques des femmes, et il a participé à la campagne de suffrage féminin en 1920.
Adler est mort le 7 juillet 1933 à l'âge de 82 ans. Il était considéré comme un leader important du mouvement juif réformiste aux États-Unis et a laissé une importante héritage intellectuel dans les domaines de la philosophie, de l'éducation et du judaïsme réformiste.