Gejdar Alijev gjorde politisk karriär i Sovjetunionen under Leonid Brezjnevs regeringstid. Han var generalmajor i KGB, medlem av kommunistpartiets centralkommitté från 1969, fullvärdig medlem av Politbyrån från 1982 och sovjetrepubliken Azerbajdzjans partichef 1969–82.