Charpentier est connu pour son style impressionniste, bien que sa palette de couleurs soit plus sombre et plus claire que celle des autres peintres impressionnistes. Sa première exposition, en 1883, présente de nombreux paysages de la campagne française réalisés à l'huile ou au pastel.
En 1886, il entre à l'Académie Julian pour étudier la gravure sur bois et la peinture avec Jules Lefebvre et Benjamin Constant. Il se lie d'amitié avec Auguste Rodin et participe à l'élaboration du projet de l'Hôtel Biron, qui deviendra plus tard le musée Rodin.
En 1890, Charpentier épouse Madeleine Lemaire, une peintre d'origine belge qui est également la sœur de Berthe Morisot. Le couple aura deux enfants, dont Pierre Charpentier, qui sera plus tard un sculpteur et médailleur connu.
Dans les années 1890, Charpentier se concentre sur l'art religieux, produisant de nombreuses illustrations pour la Bible d'Amiens. Il reçoit plusieurs commandes publiques, telles que la décoration du Palais Galliera à Paris et des églises en France.
En 1902, il est nommé professeur à l'Académie Julian, une position qu'il occupera jusqu'en 1934. Durant cette période, il enseigne à de nombreux artistes impressionnistes et post-impressionnistes tels que Raoul Dufy, Kees van Dongen, Othon Friesz, Maurice Denis, Émile Bernard et Charles Camoin.
Charpentier a également produit des gravures sur bois et en taille-douce, ainsi que des lithographies de qualité exceptionnelle. Parmi ses œuvres les plus connues figurent des illustrations pour la Bible d'Amiens, le Livre de Job, L'Ascension du Christ et Le Retour au Pays Natale.
Enfin, Georges Charpentier est considéré comme un pionnier de l'art moderne en France, ayant participé à l'élaboration de la première exposition internationale d'art contemporain, qui aura lieu à Turin en 1902. Il a également été membre fondateur de la Société Nationale des Beaux-Arts et a présidé la Société des Peintres Indépendants de 1936 à sa mort en 1945.