Tschumi a étudié à l'Académie suisse des beaux-arts à Berne, puis il a poursuivi ses études à l'École nationale supérieure des beaux-arts de Paris sous la direction de Jacques Labro et d'Yves Abel. Il obtient son diplôme en 1968.
Après avoir travaillé brièvement pour l'agence d'architecture de Richard Rogers, Tschumi ouvre son propre cabinet à Paris en 1972. En 1975, il est invité par Peter Eisenman à enseigner à l'Université Cornell dans le New York State College of Architecture, Art and Planning (AAP), où il reste jusqu'en 1988. Pendant cette période, Tschumi publie plusieurs livres et organise des conférences sur la théorie de l'architecture et la critique de la ville moderne.
En 1983, Tschumi gagne le concours d'architecture pour la conception du Parc de la Villette à Paris. Ce projet est considéré comme son travail le plus connu et constitue un exemple significatif de l'architecture postmoderne. Le parc est ouvert en 1987 et devient rapidement un lieu populaire pour les habitants parisiens et les touristes.
En 1988, Tschumi est nommé professeur à la Faculté d'architecture de l'Université de Paris-Belleville, où il enseigne jusqu'en 2002. Il est également professeur invité dans plusieurs autres institutions prestigieuses, telles que Columbia University et l'Académie suisse des beaux-arts à Berne.
Tschumi a également réalisé de nombreux autres projets d'architecture remarquables, tels que le Musée d'art contemporain du Québec (1983), le Parc de la Cité universitaire de Vincennes à Paris (1984) et la Bibliothèque publique centrale de Toulouse (1997).
En 2006, il est fait membre de l'Académie suisse des sciences humaines et sociales. En 2013, il est nommé professeur honoraire à l'Université Cornell.