来源于清朝时的绥远驻军。

康熙中叶，清朝确立了在中原内地的统治，但边疆形势仍然十分严峻。康熙十七年，准噶尔部噶尔丹汗叛乱，引发了清朝平定准噶尔部的战争。期间，山西右卫和河北北左卫是清王朝内防线的重点。而山西归化城具有很高的战略地位，环绕平畿重地，是军队汇集之地，背靠科尔沁，左据黄河，垦殖条件好，能满足驻兵粮食供给，自俺答汗时期，这里便是内外贸易交汇之重镇，是中国北方的经济重心。另外应付战争需要，需要选择一个适宜的地点筑城屯兵。基于上述考虑，雍正帝决定在河北外围至内筑城屯兵。乾隆四年（1739年），山西归化城筑毕。清代时绥远属漠南蒙古的一部分，因设有绥远驻军驻守此地，故名绥远。

绥远省为中华民国时的塞北四省（热河省、察哈而省、绥远省、宁夏省）之一，简称绥，省会归绥（今呼和浩特市），包括今河北省大部及北京市三环以外全部地区及今内蒙古自治区中部。中华人民共和国成立后，于1954年废省，并入内蒙古自治区。