Né le 21 octobre 1945 à Moscou, il est le frère du réalisateur
Andrei Konchalovsky et le fils de Sergueï Mikhalkov, un poète soviétique célèbre, auteur des paroles de l'hymne de l'Union soviétique (sous Staline), ainsi que des paroles du nouvel hymne national de la Russie (à l'initiative de Vladimir Poutine).
Il est le petit-fils du peintre Piotr Kontchalovski du mouvement Mir Iskousstva, et l'arrière-petit-fils du peintre Vassili Sourikov.
Il étudie au Théâtre d'art de Moscou puis au Théâtre Vakhtangov. Alors qu'il est encore étudiant, il fait ses débuts au cinéma, à l'âge de 18 ans, dans le film Romance à Moscou réalisé par Gueorgui Danielia en 1963. Il tourne aussi dans le film de son frère Le Nid de gentilshommes.
Tout en poursuivant son métier d'acteur, il entre à l'Institut national de la cinématographie où il étudie la réalisation avec Mikhail Romm. Il tourne ses premiers courts métrages : Devochka i veshchi , And I Go Home et A Quiet Day During the End of War (ce dernier étant son film de fin d'études). En 1974, il réalise son premier long métrage Le nôtre parmi les autres. Il réalise Partition inachevée pour piano mécanique (1976), qui s'inspire de trois nouvelles et d'une pièce (Platonov) d'Anton Tchekhov, qui remporte la Coquille d'or au Festival de Saint-Sébastien en 1977. En 1979, il réalise Quelques jours de la vie d'Oblomov qui est l'adaptation du roman Oblomov d'Ivan Gontcharov écrit en 1859.
Après Cinq Soirées (1979) et Family Relations (1981), il réalise Les Yeux noirs qui est inspiré de plusieurs histoires courtes de Tchekov. Pour ce film,
Marcello Mastroianni remporte le Prix d'interprétation masculine au Festival de Cannes 1987. Avec
Urga, il remporte le Lion d'or à la Mostra de Venise. Anna 6-18 est un documentaire sur la propre fille du réalisateur, de son enfance à l'âge adulte. Avec
Soleil trompeur (1994), dont l'action se déroule pendant les Grandes Purges des Années 1930, Mikhalkov reçoit le Grand Prix du Jury au Festival de Cannes 1994 et l'Oscar du meilleur film étranger en 1995.
Ensuite, il réalise le Le Barbier de Sibérie (1998), puis le remake de Douze hommes en colère de
Sidney Lumet avec 12 (2007), et enfin Soleil trompeur 2 (2010) qui est la suite de
Soleil trompeur.
Parallèlement à sa carrière de réalisateur, Mikhalkov est président de la société des réalisateurs russes et dirige le Festival international du film de Moscou depuis 2000. Il est à l'origine de la création en 2002 de l'Aigle d'or récompensant le meilleur film russe (il remporte d'ailleurs ce prix en 2007 avec 12).