Sisä-Mongolian nimitys syntyi [[Qing-dynastia]]n valtakaudella. Tarkoituksena oli erotella Sisä-Mongolian siäsiet ''zazagit'' eli hallitsijat ulkoisista ''zazageista'', jotka hallitsivat puolestaan Ulko-Mongoliaa eli nykyistä Mongolian valtiota, sekä [[XinjiangSinkiang]]ia. Vielä tuolloin Sisä-Mongoliaksi käsitettiin myös osia [[Mantšuria]]sta. [[Kiinan tasavalta|Kiinan tasavallan]] aikana nykyistä Sisä-Mongoliaa hallittiin useamman erikoisalueen ja provinssin kautta. Sisä-Mongolia yhdistettiin hallinnollisesti vasta vuonna 1954. Nykyinen mongolinkielinen nimi alueelle ''öbür mongghul'' takoittaa Etelä-Mongoliaa ja termi tuli käyttöön vuonna 1947 kun sitä alettiin ensin käyttää Mongoliassa. Kiinan kielinen termi ''nèi měng gǔ'' eli Sisä-Mongolia säilyi puolestaan entisellään.<ref name="EMME2456">Atwood 2004, s 245-246</ref>
