Après des études à la Guildhall School of Music and Drama, il entame une carrière théâtrale au Pays de Galles puis au cinéma. En 1999, il se fait connaître du grand public grâce à son rôle dans Coup de foudre à Notting Hill, dans lequel il interprète le colocataire de Hugh Grant.
Malgré sa présence dans plusieurs films dont Kevin & Perry, Human Nature, Hannibal Lecter : les origines du mal ou encore
Mr Nobody, Rhys Ifans se retrouve souvent cantonné à interpréter des personnages excentriques.
Il acquiert une réputation internationale en 2009 grâce à son interprétation du déjanté Gavin Kavanagh dans le film de Richard Curtis, Good Morning England. En 2010, il interprète le rôle de Xenophilius Lovegood, le père de Luna dans la saga Harry Potter.
Rhys Ifan a également été choisi pour combattre Andrew Garfield dans le film Spider-Man Reboot en 2012.
Il a aussi joué dans le clip The Importance of Being Idle du groupe anglais Oasis.
Le frère de Rhys Ifans, Llyr Ifans, est aussi un acteur. Rhys lui donne la réplique en 1996 dans le film Twin Town.
Rhys Ifans a eu une relation avec Sienna Miller. En 2008, ils mettent fin a leur relation quelques mois après s'être fiancés.