Michael Rasmussen mesure 1,75 m pour 59 kg et est surnommé Kyllingen fra Tølløse (« Poulet de Tølløse » en danois) ou Chicken Legs (« Pattes de poulet » en anglais) . Il est réputé maniaque, mettant par exemple des chaussures trop petites pour économiser du poids. Il réside au Lac de Garde en Italie. Il débute par le VTT et en devient champion du monde en 1999. Il débute sa carrière professionnelle sur route en 2002 dans l'équipe cycliste CSC-Tiscali avant de courir pour l'équipe cycliste Rabobank en 2003.
Faisant une carrière jusqu'alors discrète, hormis une victoire d'étape dans la Vuelta et deux dans le Critérium du Dauphiné libéré, il se révèle lors du Tour de France 2005. Il est reconnu pour ses qualités de grimpeur qui rappellent celles d'un autre coureur danois : Bjarne Riis.
Il doit donc ses premiers faits d'armes au Tour de France 2005 lors duquel il gagne la 9e étape à Mulhouse et remporte le maillot à pois du meilleur grimpeur. Alors qu'une place sur le podium final lui semble promise, il perd toutes ses chances lors du contre-la-montre de Saint-Étienne où, après trois chutes et une médiocre prestation (77e), il finit à 7'47" de
Lance Armstrong, vainqueur de l'étape. Il termine l'épreuve à la 7e place au classement général.
En 2006, il remporte à nouveau le maillot à pois du Tour de France ainsi que la 16e étape de montagne alpines, entre Le Bourg-d'Oisans et La Toussuire.