Enfant, Jules-Alphonse entre à l'école technique de Montbard où il montre rapidement un goût pour les mathématiques et les sciences. En 1890, il part pour Paris pour poursuivre des études supérieures et fréquente le lycée Condorcet puis l'Ecole Centrale des Arts et Manufactures de Paris.
En 1896, il rentre à Audincourt (Doubs), où la Société des automobiles Peugeot a été créée en 1889 par ses oncles Émile, Armand, Jean-Pierre et Jules-Gustave Peugeot. Il y travaille sous la direction de son père, Léon, qui est un des administrateurs principaux de l'entreprise.
En 1905, après la mort de son père, Jules-Alphonse prend une part active dans la gestion de l'entreprise et en devient directeur général. Il se fait rapidement remarquer pour son leadership, sa vision et son courage, notamment lors de la construction d'une nouvelle usine à Sochaux, inaugurée en 1912.
En 1907, il épouse Marguerite-Thérèse Bollaert, fille du propriétaire de la brasserie Bollaert et sœur de Marcel Bollaert, qui sera plus tard le premier président du RC Lens. Ils auront ensemble deux enfants : André (né en 1908) et Geneviève (née en 1915).
Durant la Première Guerre mondiale, Jules-Alphonse Peugeot est mobilisé dans l'armée française. Il participe à la Bataille de Verdun et est décoré de la Croix de Chevalier de la Légion d'honneur en 1916. Après la guerre, il reprend son poste de directeur général de Peugeot.
En 1928, il est élu président du conseil d'administration de l'entreprise et occupe cette fonction jusqu'à sa mort en 1945. Il conduit l'entreprise à un développement rapide et solide, avec l'ouverture de nouveaux ateliers à Mulhouse (en 1923) et à Poissy (en 1934), la création de filiales étrangères, notamment en Espagne et aux États-Unis, et la sortie de nombreux modèles emblématiques tels que le Peugeot 203, le Peugeot 402 et le Peugeot 205.
Jules-Alphonse Andre Peugeot meurt le 16 janvier 1945 à Paris. Son fils André lui succède à la tête de l'entreprise en 1946, marquant la quatrième génération des Peugeot à diriger l'entreprise automobile.