Après avoir obtenu son baccalauréat au lycée Louis-le-Grand, Alexandre Arquillière entame des études de mathématiques à l'École polytechnique en 1883. Il sort diplômé deux ans plus tard et poursuit sa formation dans la division mathématiques de l'École pratique des hautes études, où il obtient un doctorat en sciences physiques en 1890.
Pendant son séjour à l'École pratique, Arquillière travaille sous la direction de Gaston Darboux et se lie d'amitié avec Henri Poincaré. Plus tard, il obtient un poste de maître de conférences à la Faculté des sciences de Dijon puis à la Faculté de Paris en 1892.
En 1896, Alexandre Arquillière est nommé membre de l'Académie des sciences et occupe la chaire de physique théorique de l'université de Caen en 1904. Deux ans plus tard, il est nommé professeur à la Faculté des sciences de Paris, où il succède à Henri Poincaré après sa mort en 1912.
Pendant sa carrière, Alexandre Arquillière travaille sur une large gamme de sujets en physique mathématique, mais est surtout connu pour ses recherches sur la thermodynamique des gaz. En collaboration avec le chimiste Marcellin Berthelot, il étudie les propriétés des solutions binaires et les lois de dissolution des gases dans les liquides.
Alexandre Arquillière est également membre de plusieurs sociétés savantes françaises et étrangères, dont l'Académie française, la Société de physique et d'électricité, la Société des sciences physiques et naturelles de Dijon, la Royal Society et l'Académie des sciences de Russie.
En 1906, il est élu membre étranger de l'American Academy of Arts and Sciences et reçoit le prix Laland de l'Académie française en 1931 pour son ouvrage "Leçons sur la théorie des probabilités". Alexandre Arquillière est également docteur honoris causa de plusieurs universités européennes.
Alexandre Arquillière meurt le 30 octobre 1946 à Saint-Germain-en-Laye. Son travail a eu une grande influence sur la thermodynamique des gaz et est toujours apprécié aujourd'hui.