O:s genombrott kom 1931 då han ersatte Toscanini i Philadelphia, varpå han 1931–36 ledde Minneapolis symfoniorkester. År 1936 knöts O. till Philadelphia Orchestra (chefsdirigent 1938–80) och stärkte dess ställning som en av USA:s tekniskt mest slipade och framgångsrika med talrika skivinspelningar och turnéer.