Cartier est né à Montréal, au Québec. Il a grandi dans une famille d'ascendance française et irlandaise. À l'âge de 12 ans, il a commencé à s'intéresser à la comédie en tant que membre du théâtre de son école. Il a poursuivi ses études à l'Université Bishop's College School avant de partir pour New York en 1923 pour poursuivre une carrière d'acteur.
En 1925, Cartier a été engagé par la compagnie de théâtre de George M. Cohan et a commencé à jouer dans plusieurs productions. Il a également travaillé pour la National Broadcasting Company (NBC) en tant que comédien radio. En 1934, il a fait ses débuts au cinéma dans le film "Flying Down to Rio" de Thornton Freeland et Busby Berkeley.
Cartier est devenu un acteur populaire à la fin des années 1930 et pendant les années 1940, jouant souvent dans des films de comédie romantique et de musical. Parmi ses films les plus connus figurent "My Man Godfrey" (1936), "Stage Door" (1937), "The Great Ziegfeld" (1936) et "Week-End in Havana" (1941).
En plus de sa carrière d'acteur, Cartier a également travaillé comme réalisateur pour la Fox Film Corporation et pour RKO Radio Pictures. Il a également été un important contributeur à la télévision, en tant que créateur de plusieurs émissions télévisées telles que "The Big Show" (1950-1953) et "The Colgate Comedy Hour" (1950-1955).
Cartier est décédé à l'âge de 56 ans en janvier 1960, des suites d'une longue maladie. Il a été honoré après sa mort par le Canadian Film Awards pour l'ensemble de sa carrière et a reçu une étoile sur le Hollywood Walk of Fame. Cartier est souvent considéré comme un des acteurs canadiens les plus talentueux et influents de tous les temps.