À la fin des années 1930, il commence une carrière de chanteur, danseur et acteur comique, à l'extérieur de New York, dans les centres de villégiature (resorts) des Catskill Mountains. Le succès l'amène à New York, d'abord au théâtre burlesque ((en)Vaudeville), puis à Broadway, où, en 1946, il devient une vedette grâce à son succès dans la comédie musicale Call Me Mister. En 1947, il débute au cinéma, et apparaît principalement dans des comédies musicales de la MGM, dont
Parade de printemps (Easter Parade) avec
Fred Astaire. Son rôle le plus mémorable est celui qu'il joue, en 1949, dans Un jour à New York (On the Town) de
Stanley Donen et
Gene Kelly, où il incarne l'un des trois marins en permission aux côtés de Gene Kelly et
Frank Sinatra. Malgré le succès, après ce film sa carrière sur scène, devient prédominante et il ne tourne plus qu'irrégulièrement pour le cinéma. En 1957, il obtient, cependant, un autre rôle étonnant, celui du très amusant commissaire du peuple Bibinski, dans
La Belle de Moscou (Silk Stockings) de
Rouben Mamoulian, remake du
Ninotchka d'
Ernst Lubitsch. À partir de là, s'il ne tourne plus que quelques rares films, il continue à apparaître sur scène, et surtout devient une vedette de la télévision américaine.
Il meurt d'une crise cardiaque en 1970, trois jours avant son 55e anniversaire.