“阿拉善”是贺兰山的音转，贺兰山名源于匈奴族贺兰部在此住牧，阿拉善因贺兰山而得名。

阿拉善地区是远古人类的发祥之地，据考古证实，旧石器时代今阿拉善盟额济纳旗就有人类生存。旧、新石器过渡的代表一细石器文化的赋存和发现，进一步证明古居延地区是东、西石器文化的连接点。新石器、青铜、铁器时代，历代北方游牧民族在贺兰山、曼德拉山、龙首山等处刻制了数以万计的古代岩画，成为研究古代游牧民族早期宗教信仰、生活习俗和经济生活的重要实物资料和珍贵的文化遗产。

原始社会末期，奴隶社会商周时期，弱水流域、居延海畔就有殷商周朝先民生活的足迹。秦始皇统一六国后，在今阿拉善地区东北部始设北地郡。汉代，阿拉善地区分属北地、武威、张掖三郡管辖。汉武帝太初三年(公元前102年)，征发兵卒18万到河西戍边屯田，北置居延、休奢两县。汉宣帝本始元年(公元前73年)，居延县隶属张掖郡管理。东汉光武帝元年(公元25年)，改置“张掖居延属国”。东汉献帝兴平二年(公元195年)，设西海郡，辖居延一县。

魏晋南北朝时期，魏国和西晋续设西海郡。北魏时，阿拉善地区为凉州所辖，北魏道武帝登国元年(公元386年)，氐族人吕光建立后凉政权，领居延县。北魏孝明帝正光二年(公元521年)，居延古都属柔然婆罗门领地。

隋朝至唐代初期，阿拉善地区属甘州、肃州，也曾为突厥贵族所据。唐朝武则天垂拱二年(公元686年)，唐王朝一度曾将“安北都护府”从漠北迁至漠南，都护府治所在同城，即今额济纳旗境内。唐玄宗天宝二年(公元743年)，唐王朝设宁寇军，统领居延军务。“安史之乱”时，河西走廊被吐蕃切断，居延地区成为长安通往西域的“草原丝绸北道”。之后，居延地区先后为吐蕃、回鹘、契丹所部占据。

北宋仁宗宝元元年(公元1038年)，西夏建国时设12监军司，贺兰山坚军驻守贺兰山沿线，守军5万人。在居延地区设置“黑山威福军司”，治所为今额济纳旗东南黑城。

元朝设亦集乃路，属甘肃行中书省管辖，管理军政事务，总管府驻哈拉浩特(黑城)。明太祖洪武五年(公元1372年)，明军西路军5万骑出塞，兵锋直指亦集乃路，哈拉浩特守将卜颜帖木尔降明，黑城废弃。明朝时期，北元和瓦刺势力先后占据阿拉善地区，明中期以后为蒙古达延汗属部的游牧地。

清朝初年，蒙古鄂尔多斯部额琳沁、固鲁岱青游牧阿拉善地区，1649年因大札木苏叛乱，所部移牧河套地区。清康熙二十五年(公元1676年)，卫拉特准噶尔部部长噶尔丹击败和硕特部鄂齐尔图汗。1677年，顾实汗孙和罗理率和硕特余部庐帐万余，自新疆迁徙，途经青海大草滩，移牧阿拉善地区。康熙三十六年(公元1697年)，设旗编佐，正式设置阿拉善和硕特旗。康熙三十七年(1698年)，徙牧于伏尔加河流域的土尔扈特部阿玉奇汗族弟纳扎尔玛穆特之子阿喇布珠尔，率部西藏礼佛，归路被阻，请求内附，清廷赐牧党河、色尔腾地方。1729年阿喇布珠尔之子丹忠晋封多罗贝勒，雍正九年(1731年)以后移牧额济纳河流域。乾隆十八年(1753年)，设额济纳旧土尔扈特特别旗。因稳定西部边疆战功卓著，清皇室与阿拉善和硕特旗保持了长期的联姻关系。两旗上不设盟，直属清廷理藩院管辖。

民国时期，阿拉善旗、额济纳旗直属北洋政府蒙藏院和中央行政院蒙藏委员会管辖，宁夏护军使和宁夏省兼管两旗徒具虚名。期间，原属阿拉善旗的磴口巴格(乡)设县级建置。

1949年9月23日和1949年9月27日，阿拉善旗和额济纳旗和平解放，建立人民政府。1954年4月，成立宁夏省蒙古自治区，辖阿拉善旗和磴口县，为专区级地方政权，隶属宁夏省管辖。同年10月，因宁夏省建制撤销并入甘肃省，宁夏省蒙古自治区易名甘肃省蒙古自治区。1955年3月，甘肃省蒙古自治区改称甘肃省蒙古自治州。1955年11月，甘肃省蒙古自治州易名甘肃省巴音浩特蒙族自治州。1956年2月，设立巴彦淖尔盟，辖阿拉善旗、额济纳旗、磴口县和巴彦浩特市，隶属内蒙古自治区领导。

1958年4月，巴彦淖尔盟与河套行政区合并，为自治区派出机构，盟府迁三盛公;同年8月，巴彦浩特市撤销，恢复镇级建置。1961年4月，阿拉善旗分设为阿左旗和阿右旗。

1969年7月，中央变更内蒙古自治区行政区划，阿左旗划归宁夏回族自治区管辖，阿右旗划归甘肃省武威地区管辖，额济纳旗划归甘肃酒泉地区管辖。

1979年7月，阿左旗、阿右旗、额济纳旗重归内蒙古自治区领导。1980年5月，成立阿盟，隶属内蒙古自治区，为专区级建制，辖阿左旗、阿右旗和额济纳旗，盟府驻巴彦浩特。

有史以来，在大漠南北、长城内外中原王朝和北方草原行国汗廷之间的征战中，在中原汉族人民和北方羌族、月氏、匈奴、鲜卑、乌桓、突厥、吐蕃、党项、蒙古等少数民族友好往来、经贸交流和彼此融合的历史进程中，形成了纵贯东西、进入西域，横跨大漠、沟通中亚的草原“丝绸北道”，黑城即为这条十字交通线的枢纽。在今天的黄河岸边、兰山要塞、戈壁绿洲、瀚海大漠之中，蕴藏着极为丰富的文物古迹。史前遗存、商周遗址、古郡重镇、万里长城、关隘要塞、城堡烽燧、屯田遗迹、冶炼场所、汉元墓葬、古代岩画、居延汉简、黑城文书、亲王府邸和黄教寺庙构成了阿拉善地区灿烂绚丽的历史文化。

阿拉善盟各族人民是具有光荣革命传统的人民。明末清初，土尔扈特人坚持抗击沙皇俄国的渗透、扩张和入侵，捍卫祖国主权和民族利益，万里东归，回到祖国怀抱，建立额济纳旧土尔扈特旗。近代史上，阿拉善旗各族人民响应义和团运动，向外国列强宗教侵略势力发动进攻，攻陷建有城堡的“三圣公”教堂，赶走了洋教士。1925年以来，内蒙古人民革命党人以及苏联顾问乌斯曼洛夫和奥希洛夫等到阿拉善旗宣传革命思想，共产国际战士奥希洛夫牺牲在阿拉善草原。抗日战争时期中国共产党派周仁山、苏剑啸等人到阿拉善地区宣传抗日民族统一战线，团结王公上层，引导抗日救亡运动。解放战争时期，党多次派遣地下工作者进行革命活动，中国共产党的组织在争取阿拉善旗、额济纳旗民族上层和平起义方面发挥了重要作用。在新民主主义革命时期和建国初期，中国共产党在阿拉善地区争取人民民族解放的斗争中，发挥中坚作用，何子成、曹动之等革命者和共产党人把鲜血和生命献给了阿拉善的民族解放事业。