Acteur depuis 1918, metteur en scène de théâtre depuis 1924, il est sollicité par le cinéma qui lui offre une quinzaine de rôles importants de 1930 à 1933, dont celui du chef de la pègre dans M le maudit (F. Lang, 1931) et celui du baron jaloux dans Liebelei (Max Ophuls, 1933). En 1932, il produit et réalise une version cinématographique du Revízor de Gogol : Eine Stadt steht Kopf. Homme de théâtre renommé, grand serviteur de la culture classique, il est honoré par les nazis. Directeur du Théâtre d'État de Berlin, il apparaît aussi dans treize films de cette époque, sans toujours éviter les uvres marquées politiquement, telles que Hundert Tage (Franz Wenzler, 1935, d'après une pièce de Mussolini qu'il avait interprétée en 1934) et le Président Krüger (H. Steinhoff, 1941). Il a signé la mise en scène de quelques films purement distractifs : les Finances du grand-duc (Die Finanzen des Grossherzogs, 1934), dont Murnau avait tourné une première version en 1924 ; Pirouette (Capriolen, 1938) ; Liebe im Gleitflug (id.) ; Deux Générations (Zwei Welten, 1940) ; et l'adaptation d'Effi Briest, d'après Fontane (Der Schritt vom Wege, 1939). Après la guerre, il se consacre entièrement au théâtre. Il reviendra toutefois au cinéma peu avant sa mort : tout d'abord dans une adaptation de la pièce de Scribe qu'il avait souvent mise en scène, Das Glass Wasser (H. Käutner, 1960) ; et surtout, la même année, sous la direction de son fils adoptif Peter Gorski, avec le film tiré de sa fameuse version de Faust, dans lequel il reprend son rôle favori, celui de Méphisto. C'est de Gründgens (dont la première femme était Erika Mann, fille de Thomas Mann) que s'est inspiré Klaus Mann pour son livre Méphisto, ultérieurement porté à l'écran par le Hongrois I. Szabo.