Le Tellier est issu d'une famille d'origine bourgeoise, les Le Tellier de Louvois, qui a produit plusieurs ministres du roi et des secrétaires d'État français. Son père, Louis-Antoine Le Tellier de Louvois, était un ministre militaire sous le règne de Louis XIV.
Le Tellier commence sa carrière comme avocat général au Parlement de Paris en 1723. En 1725, il est nommé premier président du Parlement. Cette position lui donne un pouvoir important dans la politique française et lui permet de jouer un rôle clé lors des réunions du Conseil d'État.
En 1746, Le Tellier est nommé contrôleur général des finances par le roi Louis XV. Il occupe ce poste pendant onze ans, jusqu'en 1757. Il travaille à améliorer l'efficacité des collecteurs d'impôts et à réformer le système fiscal français. Son objectif est de faire en sorte que les finances du roi soient solides et qu'il puisse affronter les défis militaires qui se présentent, notamment la guerre de Succession d'Autriche (1740-1748).
En 1757, Le Tellier est remplacé à son poste de contrôleur général des finances par le duc de Choiseul. Il continue cependant à jouer un rôle important dans la politique française en occupant plusieurs autres postes gouvernementaux jusqu'à sa mort en 1768.
Le Tellier est connu pour être une personne très pieuse et pour avoir été un grand défenseur des intérêts de l'Église catholique. Il est également reconnu pour son intellect et ses compétences financières, ainsi que pour son sens pratique et son éloquence oratoire.
Au cours de sa carrière politique, Le Tellier est récompensé par de nombreux titres et décorations royales. Il est fait marquis de Bourville en 1726, comte de Château-Thierry en 1734, duc de Choiseul en 1745 et maréchal de France en 1762.
Le Tellier meurt à Paris le 1er janvier 1768 et est inhumé dans l'abbaye royale de Saint-Denis. Il a laissé une légende durable, celle d'un homme politique éminent qui a joué un rôle important dans la politique française du XVIIIe siècle.