González a grandi dans une famille d'origine espagnole et a appris à jouer de la guitare à l'âge de cinq ans. Son premier groupe, Variação, était un duo avec sa sœur, Joséfin. Après leur séparation en 1999, González continua à produire de la musique solo sous le nom de Junior Wells, un hommage au chanteur américain de blues du même nom.
En 2003, il sort son premier album solo intitulé *Veneer* en Suède sur la petite étiquette discographique Shifty Records. L'année suivante, l'album est publié au Royaume-Uni sur le label indie du moment, Sub Pop. Cet album contient des reprises de chansons telles que "Heartbeats" (originellement sorti par The Knife) et "Stay in Wichita" (de Sparklehorse).
En 2007, il sort son deuxième album solo *In Our Nature*, qui atteint la première place des ventes en Suède. L'album est produit par Jon Brion, un producteur connu pour avoir travaillé avec le groupe R.E.M. et le musicien Fiona Apple.
González a également collaboré avec d'autres artistes tels que The Hives, The Tallest Man on Earth et Stina Nordenstam. En 2015, il sort son troisième album solo *Vestiges and Claws*, qui reçoit des critiques positives de la presse musicale.
En plus de sa carrière solo, José González a également travaillé en tant que compositeur pour le cinéma et la télévision. Il a notamment écrit la bande originale du film suédois *Saraband* (2003) et a fourni des musiques aux séries télévisées *Breaking Bad*, *The Killing* et *Dexter*.
En 2018, il sort un EP intitulé *Klingan Klang* qui regroupe des versions instrumentales de quelques-unes de ses chansons les plus populaires. Le même année, il tourne avec le violoncelliste américain Håkan Lidbo sous le nom de Junip.
Aujourd'hui, José González continue à écrire et enregistrer de la musique, et à se produire sur scène avec ses collaborateurs de longue date.