Né à Lunel, dans l'actuel département de l'Hérault, Larrey se destine initialement à la pratique de la médecine civile. Cependant, il est appelé à servir comme chirurgien militaire en 1792, participant ainsi aux guerres de la Révolution française.
Larrey est particulièrement remarqué pour son invention et son utilisation du char d'ambulance, qui permettait de transporter les blessés dans des circonstances difficiles de terrain. Ce char est encore aujourd'hui connu sous le nom de « char Larrey ». Il a également contribué à l'amélioration de la médecine militaire en mettant en place une structure de soins spécifique pour les blessés et en établissant des normes pour la formation des chirurgiens militaires.
Sa carrière atteint son apogée pendant les guerres napoléoniennes, où il est souvent présent à côté de Napoléon Ier. Il participe ainsi aux campagnes d'Italie, d'Egypte, de Prusse et de Russie.
Après la chute de l'Empire français, Larrey continue à pratiquer la médecine militaire sous la Restauration. En 1825, il est élu député du Hérault au Conseil des anciens et rédige le rapport qui aboutit à la création d'un hôpital militaire à Versailles.
Jean Larrey a été l'auteur de plusieurs ouvrages scientifiques, dont un traité sur les blessures par balle. Il est élu membre de l'Académie de médecine en 1823 et reçoit plusieurs récompenses pour ses services militaires, notamment la Légion d'honneur et le grade de Grand-officier de l'ordre de la Réunion.
Enfin, il est inhumé dans la nécropole de Val-de-Grâce à Paris. Son nom est célèbre dans le milieu médical français pour son rôle fondamental dans l'amélioration de la médecine militaire et de la soins aux blessés durant les guerres napoléoniennes.