Gil est né à Salvador, capitale de l'État de Bahia. Son père était un militaire, sa mère une couturière. Il a appris à jouer de la guitare à l'âge de sept ans et a rejoint son premier groupe de rock à l'âge de quatorze ans. En 1963, il a formé le duo Gil & Billy avec Roberto Carlos. En 1967, Gil a participé à la naissance du movimento Tropicália en collaborant avec Os Mutantes et Tom Zé sur l'album Tropicália ou Panis et Circius de 1968. L'album fut interdit par le gouvernement militaire brésilien car il était considéré comme subversif.
Gil a ensuite voyagé à travers les États-Unis, où il s'est converti au Rastafarianisme. Il a également passé une partie de son temps aux Indes, en Europe et au Japon, ce qui a eu un impact sur sa musique. En 1973, Gil a publié l'album Refavelas, qui contenait les chansons à la base socialement engagées. L'album fut bien accueilli par la critique.
En 1984, Gil est devenu ministre de la Culture dans le gouvernement brésilien d'Itamar Franco. Durant son mandat, il a développé des programmes pour promouvoir l'art afro-brésilien et les traditions culturelles populaires. Il a également créé le Festival Mundial da Cultura Negra (le Festival mondial de la culture noire), qui est devenu l'un des événements culturels les plus importants au Brésil.
En 2007, Gil a remporté le prix Grammy pour son album de musique électronique Sketches of Brazil. Il a également été récompensé par un Ivor Novello Award en 1987 et un Latin Grammy Award en 2011.
Aujourd'hui, Gil est considéré comme l'un des artistes les plus importants de la musique brésilienne. Sa carrière a duré plus de cinquante ans et il continue à créer de la musique et à se produire en concert. Il est également un militant actif pour le respect des droits humains, l'environnement et la conservation de la culture afro-brésilienne.