Né dans une famille de musiciens, Cobb a appris à jouer de la guitare, de la flûte traversière et de la banjo durant son adolescence. En 1967, il forma le groupe The Sons of the Songbird avec son frère aîné George et d'autres musiciens. Le groupe se produisit dans les bars et les clubs du Sud des États-Unis jusqu'à sa dissolution en 1970.
En 1969, Cobb rejoint le groupe The Marshall Tucker Band, qui était alors en pleine formation. Le groupe, dont le nom est inspiré de la ville fictive de Marshall Tucker (créée pour une télévision), se produisit pour la première fois dans un petit club à Spartanburg, en Caroline du Sud. Cobb fut le premier chanteur permanent du groupe et participa à l'écriture des principaux titres du groupe, dont les plus connus sont "Can't You See" et "Heard It in a Love Song".
Le Marshall Tucker Band connaît un grand succès dès la fin des années 1970 avec l'album de 1973 "The Marshall Tucker Band", qui se vendra à plus de deux millions d'exemplaires. Le groupe s'est produit dans de nombreux festivals et concerts durant les décennies suivantes, et a continué à enregistrer des albums jusqu'en 2011.
En plus de sa carrière avec le Marshall Tucker Band, Cobb a également travaillé comme compositeur pour d'autres artistes tels que John Hiatt, Eric Clapton, Bob Seger et Bonnie Raitt. Il a également enregistré plusieurs albums solo. Cobb continue à se produire et à composer de la musique à ce jour.
James Buchanan "Buchi" Cobb Jr est considéré comme l'une des figures importantes du mouvement country-rock, qui a fusionné les éléments de la musique country traditionnelle avec ceux de la rock and roll. Son style vocal unique et sa capacité à écrire des chansons populaires ont contribué à la popularité durable du Marshall Tucker Band.