Née à Oxford, issue d'une famille juive de Biélorussie, Margolyes étudia à Oxford High School pour aller ensuite à l'Université de Cambridge où elle commença à jouer vers 20 ans.
Au départ, Margolyes prêtait sa voix pour ensuite, se consacrer au jeu d'acteur. Son premier rôle majeur fut celui d'un personnage appelé Elephant Ethel. Elle fut acclamée pour son portait de Flora Finching, en 1988 dans le film Little Dorrit. En 1993, elle gagna un award à la British Academy of Film and Television Arts pour son rôle dans Le Temps de l'innocence, une performance qui l'a propulsée dans sa carrière et gagna de la notoriété quand elle prêta sa voix dans James et la pêche géante. Elle reste aussi connue pour son rôle du professeur Pomona Chourave dans
Harry Potter et la Chambre des secrets.
Plus récemment, Margolyes a joué dans des films comme Moi, Peter Sellers, Les Dames de Cornouailles avec Judi Dench et Maggie Smith, et a obtenu un rôle important dans la série télévisée britannique, Miss Marple en 2004.
Le 30 décembre 2001, elle est promue comme officier de l'Ordre de l'Empire britannique.