Carlsson var internationell sekreterare i det socialdemokratiska partiet 1970–76 och generalsekreterare vid Socialistinternationalen 1976–83. Han var 1983–85 ambassadör vid Utrikesdepartementet med ansvar för icke-statliga organisationer och 1985–87 statssekreterare i Jordbruksdepartementet med ansvar för nordiska frågor.