Efter studier i Moskva på 1980-talet återvände Mahama till Ghana och arbetade bland annat på Japans ambassad i Accra. Han valdes in i parlamentet första gången 1996 som representant för partiet National Democratic Congress (NDC); 1998–2001 var han kommunikationsminister.