Il commence sa carrière professionnelle en 1998 au sein de l'équipe ONCE, après avoir remporté la Flèche ardennaise espoirs (moins de 23 ans) la même année. En 1999, il a gagné la Clásica de Alcobendas et terminé troisième du championnat d'Espagne sur route.
En 2000, Jerez a remporté le Tour des Asturies et a fini deuxième du Grand Prix de Plouay, derrière Laurent Roux. L'année suivante, il a remporté une étape du Critérium international et a été deuxième du Grand Prix de Plouay pour la seconde année consécutive.
En 2002, Jerez a rejoint l'équipe ONCE-Eroski pour la saison 2003. Il a terminé cinquième du Tour d'Espagne et a remporté le classement des montagnes. La même année, il a gagné le Grand Prix de Plouay pour la troisième fois.
En 2004, Jerez a signé avec l'équipe Caisse d'épargne-Illes Balears et a terminé septième du Tour d'Italie. Il a également remporté le Tour de Romandie, en battant Alejandro Valverde au sprint sur la dernière étape.
En 2005, il a remporté une étape du Tour de Suisse et a terminé deuxième du championnat d'Espagne sur route derrière David Cañada. L'année suivante, il a terminé troisième du Grand Prix de Plouay et deuxième de la Vuelta a Murcia.
En 2007, Jerez a signé avec l'équipe Astana pour la saison 2008. Il a terminé quatrième du Tour d'Italie et a gagné une étape sur le Tour de Suisse. La même année, il a remporté le Grand Prix de Plouay pour la cinquième fois de sa carrière, battant Alejandro Valverde au sprint sur la ligne.
En 2008, Jerez a terminé septième du Tour d'Italie et a gagné une étape du Critérium international. L'année suivante, il a remporté le Grand Prix de Plouay pour la sixième fois de sa carrière, battant Alejandro Valverde au sprint sur la ligne.
En 2010, Jerez a terminé troisième du Tour d'Italie et a gagné une étape du Critérium international. L'année suivante, il a remporté le Grand Prix de Plouay pour la septième fois de sa carrière, battant Samuel Sanchez au sprint sur la ligne.
En 2013, Jerez a terminé quatrième du Tour d'Espagne et a gagné une étape sur le Critérium international. En 2014, il a annoncé sa retraite de la compétition à l'issue de la saison.
Au total, José Luis Jerez Alozas a remporté sept fois le Grand Prix de Plouay et a terminé sur le podium du Tour d'Italie à trois reprises.