Il débute en 1912 et fait ses classes dans le court métrage burlesque. Cependant, en dirigeant Mary Pickford, notamment dans l'excellent Petit Lord Fauntleroy (Little Lord Fountleroy, 1921), ou Colleen Moore dans une autre réussite, Ella Cinders (id., 1926), il pénètre dans la sphère des cinéastes de prestige. Green a peu de personnalité mais beaucoup de métier et un réel enthousiasme. Ces qualités lui servent beaucoup dans les années 30, quand, sous contrat à la Warner Bros., il réalise de nombreux petits films vifs et plaisants comme Union Depot (1932), Baby Face (1933) ou Dark Hazard (1934) ; il y dirige des stars telles que Joan Blondell, Barbara Stanwyck ou Edward G. Robinson. Il mène également Bette Davis à son premier oscar avec l'Intruse (Dangerous, 1935). Il rencontre le plus grand succès de sa carrière avec Je chante pour vous (The Jolson Story, 1946), biographie d'Al Jolson. Ce sommet marque également le début de son déclin, car les films qu'il réalise jusqu'à sa retraite, en 1954, ont été peu remarqués.