John Magufuli hade en doktorsexamen i kemi från University of Dar es-Salaam. 1977 blev han medlem i partiet Chama cha Mapinduzi (’Revolutionära partiet’, CCM), landets då enda tillåtna. Han var ledamot av parlamentet från det första flerpartivalet 1995 och hade som minister ansvar för infrastruktur 2000–06 och 2010–15, för mark