Geoffrey Mutai débute en course à pied en 1997, lorsqu'il rejoint une école de sport-études à Iten, dans le Kenya central. Il remporte son premier succès en 2003, en terminant troisième du semi-marathon de Lisbonne.
En 2009, il bat un record personnel lors du semi-marathon de Ras Al Khaimah et remporte l'édition 2009 des Championnats du monde de semi-marathon à Birmingham.
En 2010, Geoffrey Mutai bat le record du marathon du Boston Marathon avec un temps de 2 h 03 min 02 s, mais cet exploit n'est pas homologué en raison d'une éventuelle aide extérieure. Il remporte également la même année les championnats du monde de semi-marathon à Nanning.
En 2011, il établit un nouveau record du monde du marathon lors du Berlin Marathon avec un temps de 2 h 03 min 05 s, battant le record précédent de Wilson Kipsang de 6 secondes. Cependant, comme en 2010 à Boston, son exploit n'est pas homologué par l'IAAF en raison d'une aide extérieure lors des premiers kilomètres de course.
En 2012, Geoffrey Mutai remporte pour la deuxième fois le marathon de New York avec un temps de 2 h 05 min 06 s. Il participe aux Jeux olympiques de Londres en 2012 et termine sixième du marathon masculin.
Depuis 2013, Geoffrey Mutai a participé à plusieurs grandes courses de marathon, notamment le marathon de New York, le marathon de Chicago et le marathon de Berlin. Il a remporté des victoires à la course de la Route du Rhum et à la course de la Route d'Or.
Geoffrey Mutai est considéré comme l'un des meilleurs coureurs de semi-marathon et de marathon au monde, mais il est également connu pour les controverses entourant ses performances en raison d'allégations d'aide extérieure lors de certaines courses.