Après la Révolution de 1917, sa famille se disperse et il rejoint aux États-Unis son grand-père maternel, installé à New York, le violoniste Leopold Auer. Celui-ci l'encourage à apprendre la musique (piano, violon...), parallèlement à sa formation d'acteur, dans les années 1920, durant lesquelles il se produira d'ailleurs comme musicien. Ces mêmes années, il part à Hollywood et adopte alors le nom de son grand-père, devenant Mischa Auer. Il participe à un premier film américain en 1928 et, dans les années 1930, il en enchaîne de nombreux autres (où il est souvent non crédité). Un de ses rôles marquants est celui d'un russe excentrique dans Vous ne l'emporterez pas avec vous (1938). Et pour son rôle tout aussi fantasque dans
Mon homme Godfrey (1936), il obtient une nomination à l'Oscar du meilleur acteur dans un second rôle, en 1937.
Il joue également au théâtre à Broadway, dans trois pièces et une comédie musicale, disséminées entre 1925 et 1947. À partir des années 1940, il se produit aussi à la radio et à la télévision (quelques séries de 1948 à 1966, et un téléfilm en 1960).
Mischa Auer continue à jouer aux États-Unis, mais comme il est parfaitement polyglotte, il tourne souvent en Europe, à partir de 1949, dans des films italiens et français (ou des co-productions), ce jusque 1967, année de sa mort brutale. Parmi ses films français, mentionnons La Polka des menottes (1956), avec Pascale Audret, et
Nathalie (1957), avec Martine Carol.