Harriman var son till en förmögen järnvägsfinansman och efter examen från Yale 1913 blev han 1915 vicepresident i Union Pacific Railroad, där han längre fram, under många år, var styrelseordförande.