Il est connu pour avoir fondé, avec son frère, la maison d'édition Panckoucke, qui a contribué grandement à la diffusion des publications scientifiques et littéraires en France au XIXe siècle. La maison d'édition, initialement appelée "Libraire-imprimeur Panckoucke", s'est ensuite transformée en une société par actions, "Société nouvelle des imprimeries réunies Panckoucke".
Charles-Joseph a commencé sa carrière dans la maison d'édition familiale à Rennes comme correcteur de textes et libraire. En 1806, il achète les droits de publication des journaux "Le Moniteur universel" et "La Gazette nationale", qui ont été lancés pendant la Révolution française. Il les publie à Rennes jusqu'en 1814.
En 1816, il rejoint son frère Antoine-François à Paris et y fonde la maison d'édition Panckoucke. Leur entreprise a connu un grand succès, et leur catalogue comprend des publications de toutes sortes, dont les classiques français comme "Le Petit Robert", ainsi que des ouvrages scientifiques, religieux, pédagogiques et littéraires.
Charles-Joseph Panckoucke a également été membre de plusieurs sociétés savantes, notamment l'Académie française et la Société de géographie. Il a été élu à l'Académie française le 20 décembre 1837 au fauteuil de Jean-Baptiste Joseph Delambre, décédé en 1854.
Il a été fait chevalier de la Légion d'honneur en 1844 et a reçu plusieurs autres récompenses pour son apport à la littérature française. En 1870, il est élu membre étranger de l'Académie royale des sciences et des lettres du Danemark.
Charles-Joseph Panckoucke a été un acteur important de la littérature française au XIXe siècle, et sa maison d'édition continue à fonctionner jusqu'à nos jours sous le nom de "Le Livre de Poche".