Horenstein var elev till Franz Schreker och assistent till Wilhelm Furtwängler och Oscar Fried. Åren 1929–33 var han musikchef vid Düsseldorfoperan, därefter gästdirigent vid europeiska, amerikanska och australiska orkestrar och operahus. Han ansågs som Mahler- och Bruckner-specialist, men behärskade även repertoaren från barocken till nya Wienskolan.