Rao est né à Los Angeles, Californie d'une mère médecin et d'un père ingénieur, tous deux d'origine indienne,. Sa soeur est professeur à l'université de New York. Il a grandi à Yanbu en Arabie saoudite, à Denver dans le Colorado et à Claremont en Californie. Il est diplômé du lycée de Claremont et de l'université de Californie à San Diego, avec les titres de BA et de MFA décernés par l'American Conservatory Theater de San Francisco (où il a été le compagnon de classe d'Anna Belknap et d'
Elizabeth Banks).
Après l'obtention de ses diplômes, Rao a décroché un premier rôle dans la pièce Indian Ink de Tom Stoppard. Rao a ensuite déménagé à Los Angeles et a joué pour plusieurs théâtres de la région, y compris pour le Berkeley Rep, South Coast Repertory et le Manhattan Theater Club.