Han utbildades av fadern Arvīds Jansons (1914–84), dirigent vid bland annat operan i Riga och vid filharmonin i dåvarande Leningrad, där Mariss Jansons studerade vid konservatoriet; från 1969 studerade han i Wien och Salzburg för bland andra Herbert von Karajan. År 1973 blev han biträdande dirigent vid Leningradfilharmonin (nuvarande Sankt Petersburgs filharmoniska