Karlsson var politiskt sakkunnig och talskrivare åt statsministrarna Tage Erlander och Olof Palme 1968–73. Han var statssekreterare 1982–85 för nordiska samarbetsfrågor och 1985–88 i Finansdepartementet. Karlsson har även varit sakkunnig i Statsrådsberedningen 1990–91 och politisk rådgivare till Allan Larsson och Göran Persson 1992–94.