Gobi är kringgärdat av bergskedjor: Bei Shan i väster, Altajbergen och Changajbergen i norr, Stora Hinggan i öster och Qilian Shan i söder. Området ligger i genomsnitt mer än 1 000 m ö.h., och i nordväst når Mongoliska Altai upp till nära 4 000 m. Större delen av Gobi består av grus och småsten.