Né à palais du Loiret, en Basse-Normandie, Abélard commença ses études à Paris avant de les poursuivre à Chartres sous la direction d'Hugues de Saint-Victor. Puis il retourna à Paris où il devint un des maîtres les plus célèbres et influents de l'époque.
La vie personnelle d'Abélard fut également remarquable, notamment par son amour passionné pour Héloïse dite d'Argenteuil (1100-1164), sa nièce dont il devint le maître à Paris. Cette liaison secrète eut comme conséquence que Héloïse devint enceinte, et les deux amants furent contraints à un mariage clandestin par des fidèles afin de cacher leur relation incesteuse. Cependant, sous la pression de ses élèves, Abélard fut obligé de faire castrer lui-même pour ne pas être accusé d'inceste.
Héloïse et Abélard se retirèrent ensuite à un couvent et furent tous les deux moines, dans lequel ils continuèrent leur collaboration intellectuelle. Il est à noter que Héloïse écrivit elle-même une lettre à Abélard après la mort de leur fils, qui est considérée comme l'une des plus remarquables de la littérature française.
Abélard est surtout connu pour son ouvrage *Sic et non* (1120-1124), qui est une compilation d'arguments en faveur ou contre diverses positions philosophiques. Son autre ouvrage le plus important est *Introductions à la théologie*, dans lequel il développe sa propre théorie de l'univers, qui rejette les idées du mutakalamite et tente d'expliquer la relation entre la nature et Dieu.
Abélard fut également l'auteur de nombreux autres ouvrages, dont des œuvres de rhétorique (comme *Logiques*, *Dialectica* et *Glosule*), ainsi qu'une traduction partielle du Nouveau Testament en latin. Sa carrière s'acheva avec son arrestation par les autorités ecclésiastiques à Rome, ce qui l'obligea à se retirer dans le monastère de Cluny où il mourut.
Son influence sur la philosophie et la théologie fut considérable et continua même après sa mort. Il est parfois appelé "le père du scholasticisme". Sa vie passionnée et sa contribution intellectuelle ont fait de lui un héros populaire en France et un des penseurs les plus célèbres de l'histoire.