Enfant d'immigrants italiens, Castellano a grandi dans le quartier new-yorkais de Brooklyn. Sa carrière criminelle a commencé dans les années 1950 lorsqu'il travaillait pour la famille Profaci et participait à des activités telles que l'extorsion, le pari et la vente de drogue.
En 1957, il fut arrêté et emprisonné jusqu'en 1962, mais cela n'a pas empêché Castellano de reprendre son activité criminelle à sa sortie de prison. Il devint rapidement un membre important de la famille Gambino, qui était alors dirigée par Carlo Gambino. Après l'assassinat de celui-ci en 1976, Castellano devint le nouveau parrain de la famille.
Sous son mandat, les activités criminelles de la famille Gambino ont continué à prospérer, notamment grâce à la corruption dans le secteur de la construction et à l'expansion des opérations de paris sportifs. Cependant, Castellano fut également impliqué dans plusieurs affaires judiciaires importantes. En 1985, il fut mis en accusation pour un attentat meurtrier perpétré sur le compteur d'une boîte de nuit, qui avait entraîné la mort de six personnes. Il a également été inculpé pour des activités illégales liées au pari sportif, à l'extorsion et au trafic de drogue.
Le 16 décembre 1985, Castellano fut assassiné par un commando de la famille criminelle Bonanno, à la sortie d'un repas de pizzeria à Manhattan. Son successeur comme parrain de la famille Gambino fut John Gotti, qui sera par la suite connu comme l'« Homme du col rouge ».
Au total, la carrière criminelle de Paul Castellano a duré plus de trente ans et a laissé une marque profonde dans le monde des crimes organisés new-yorkais. Son nom reste synonyme d'influence et de corruption à Brooklyn et dans tout le pays.