Abdel Aziz påbörjade sin militära utbildning 1977 och steg därefter successivt i graderna. 2005, vid tiden för statskuppen mot president Maaouya Ould Sid’Ahmed Taya (född 1941), som Abdel Aziz medverkade i, var han överste och befälhavare över presidentgardet. 2008 befordrades han till general men blev i augusti samma år avskedad