五原这个古地名源于夏朝。相传四千多年前天下洪水泛滥，大禹采取疏导之法，根治洪水，待水势减退后，在高埠处首先出现了若干个丘状原所，其中有五个较大的原所，人们在原所之上辟田、造屋、繁衍、生息、耕作。五原称谓始而至此。

战国以前，相传唐虞、三代时期，五原地区是北方少数民族繁衍生息的场所之一。商朝时期河套地区为鬼方辖域。西周属昆夷、熏粥、猃狁诸民族牧区。周赧王16年（前301年）赵武灵王置云中郡。九原是云中郡的一个属县，五原为九原的西部地区，自此，五原地域始有隶属。为了巩固新开拓的疆宇，公元前298年“赵武灵王命吏大夫奴迁于九原”并实行移民屯垦。

战国末年，当中原诸侯国互争雄长，激烈交战，无暇顾及北方地区之际，占据阴山南北一带的匈奴族乘机南下，占领了河南地（“河”指黄河，当时在阴山下，现在河套平原的北端。之后才逐渐移至现在位置）。

秦统一六国后，为了解除匈奴对秦王朝的威胁，始皇33年（前214年）派蒙恬将兵三十万北击匈奴，经过两年的争战，收复了“河南地”，迫使匈奴向北退却七百余里。从此“胡人不敢南下牧马，士人不敢弯弓而报怨”。为了加强边境防御，秦“因河为塞，筑三十四县城。”（又一说为四十四座县城）。分天下为三十六郡，将九原升为九原郡，郡址设在五原。五原为九原郡之西部地。秦王朝还采取了修直道、筑长城、垦北假等相应措施来巩固北疆。公元前210年，始皇驾崩，赵高杀蒙恬，楚汉相争，中原大乱，匈奴乘机复越长城，渡河南下，占据河套地区和阴山一带，在冒顿单于的统驭下，匈奴的部落联盟更加强大，它东灭东胡，南并楼烦、白羊、燕代，北并丁零、坚昆，往西击走月氏，征服塔里木盆地西域诸国，雄居在两汉王朝的北方，控制了整个蒙古草原。此时，河套是匈奴的主要活动地区。

西汉初期，经过数十年的休养生息，到汉武帝时，为了彻底解除匈奴的威胁，派卫青反击匈奴，元朔二年（前127）收复了河南地。由于九原郡是匈奴南下的要冲，为了加强防御，将九原郡一分为二，东部地区改名五原郡，西部地区改称朔方郡。五原郡治九原县，领县十六，即：九原、固陵、五原（此五原并非今五原，当在包头孟家梁故城西，《水经注》载“九原县西北接对一城，盖五原县之故城也”即今包头孟家梁故城西郊哈德门故城）临沃、文国、河阴、浦泽、南兴、武都、宜梁、曼 柏、成 宜、禾固阳、莫黑旦、西安阳、河目。这些县大部分设置在黄河河套东部两岸的台地上。朔方郡治朔方县（在今西山咀黄河南岸伊盟杭锦旗北独贵乌拉乡境）领县十，即朔方、修都、临河、呼遒、渠搜、沃野、广牧、临戎、三封、窳浑。这些县除三封、临戎、窳浑在西套外，大都设置在鄂尔多斯北境的黄河两岸，五原隶属朔方郡临河县之东部地。汉宣帝后（前58年）匈奴内部五单于争立，并继续南侵，袭扰阴山南北地区，呼韩邪单于战败后降汉，留居光禄塞下（今昆都仑后口子小召门梁故城），曾三次到长安朝见天子求婚，汉王室为保持边塞久安，采取了和亲政策，于元帝竞宁元年（前33年）以宫女王嫱嫁单于，即历史上名传的昭君出塞。此后数十年间，使沿边诸郡出现了偏安局面。西汉末年，王莽覆灭后，匈奴支持卢芳称帝，占据了五原、朔方、云中、定襄、雁门五郡，建都于九原。由于长期争战，使北方“边陲萧条，靡有孑遗，障塞破坏，亭坠绝灭。”

东汉光武帝建武十六年（公元41）收复五原、朔方诸郡复置郡州。建武二十五年（公元49）匈奴内争，分为南北两部，南单于附汉仍入居塞内，活动于阴山南麓河套一带，并于鄂尔多斯之美稷建南单于庭，命左贤王屯朔方。东汉末年，三国鼎立，随着匈奴、鲜卑等的不断南进，汉王朝无力顾及边远地区，于献帝建安二十年（215）放弃了五原、朔方等沿边诸郡，将百姓迁到山西，置新兴郡以统辖之。从此，河套一带为匈奴族牧地。

魏、晋、南北朝时期，活动在蒙古大草原整个北方民族，有匈奴、鲜卑、羯、氐、羌，名称五胡，大多进入长城，移居黄河流域，他们彼此互相争伐，河套地区先为前赵匈奴遗族刘虎、刘卫辰所据。继而由鲜卑族拓跋氏所占领，后赵又为羯族石虎所攻占，前秦氐族符坚得其地，后秦为羌族姚兴部所辖领。东晋安帝义熙二年（407）匈奴族铁弗刘武复进入河套、陕西一带，建立夏国，后由赫连勃勃统领，建都统万城（今伊克昭盟乌审旗南）。此后，鲜卑族拓跋部势力日渐强大，从东北大兴安岭南迁大泽，向西进入河套地区，最后统一了北方各部落。天兴元年（398）建立北魏王朝，北魏为了防御柔然民族的侵袭在塞北一带建立七个军事重镇。河套地区为沃野镇之辖境。北魏时，黄河南迁，故道改称乌加河，至此，始有黄河后套之说。孝武帝永熙三年（534），北魏王朝复分为东魏、西魏，五原属西魏辖境。他们统治的时间很短，很快就被北齐、北周所取代。北周宇文氏置银、夏两州，分领今河套鄂尔多斯全境，并于今巴彦淖尔市河套地区置永丰镇（今临河区境内）。

公元581年，隋文帝纂周灭陈，统一宇内，建立隋王朝，开皇三年，废郡置州，五原属丰州。州初不领县，仍称永丰镇，至五年始废镇置永丰县。六年又于州东南四十里置丰安镇，五原隶属之。隋炀帝大业三年（607）又改州为郡，五原属五原郡（郡址在城南西土城故城），后因战乱，近边难守，未久即废。

唐朝初年，突厥又复强盛，“控弦百万”，五原为突厥所踞。唐贞观四年（630）命将李靖、徐　　 分道北伐，逐突厥于潮海之北，唐王朝将全国分为十道，二百九十三府州，五原属关内道丰州所辖。唐中叶沿边增设六都护府以治理边疆各少数民族。贞观二十一年（647），在今内蒙古西部一带改设燕然都护府，辖狼山羁糜府州二十七处，河套地区属丰州都督府。高宗永徽年间（650），在河套地区置永丰、九原两县，后又增置丰安县。武则天时期，突厥默啜可汗连年犯边，景龙二年（708），张仁愿任朔方大总管，当默啜可汗出兵新疆之机，乘虚夺取河南地，在黄河北岸修筑屯兵城堡，即东、中、西三受降城，以绝突厥南进之路。迨至唐中叶以后，五原为西受降城（今乌拉特中旗乌加河镇北圐圙补隆古城）辖境。后改为定军制，府州悉由节度兼领，五原隶属于天德军使节度兼安北都护府统领。唐末，党项族拓跋部（羌族的一支），趁宋辽连年交战之机，不断扩张势力，据有银、夏、绥、宥、静五州之地（今陕西西北部、宁夏东部及内蒙古河套、伊克昭盟、阿拉善盟境域），成为五代时期西北一大强国。公元1038年，元昊称帝，建立大夏（又称西夏），定都兴庆府（今宁夏银川市）共传十世，历时194年。五代及宋、辽、金、夏时期，五原皆为西夏属地。

自12世纪始，游牧在北方草原的蒙古族部落日趋强盛，铁木真（成吉思汗）经过十年征战，于公元1227年灭夏，1260年成吉思汗的孙子忽必烈继汗位，公元1271年正式定国号为元，定都燕京（今北京）。元代施行行省制，省下设路，路下设州，五原属中书省大同路云内州西部地。

明代270多年间，北方蒙古草原，兵连祸结，蒙古各封建领主之间，互争雄长。明初，套内则为元将扩廓铁木儿（小字王保保）占领。洪武中期，王保保被逐，收其地。洪武末，置卫所，巴彦淖尔市西部河套属宁夏辖境隶陕西统领。明中叶以后，河套全境为元裔达延汗之子孙辖领。天顺、弘治时为蒙古族阿罗出、毛里孩、满都护等相互攻占之地。成化四年（1468），阿罗出为其党　加思兰所杀，并其众属，与满都护结合居套内。未几，火筛部复入套地，号称鄂尔多斯，服属于察哈尔部，有子九人，分牧而居。河套东部则为俺答（阿拉坦汗）之部，名叫土默特。隆庆五年（1571），俺答议和，明朝封为顺义王，万历中始改其所居库库忽洞为归化城（即呼和浩特市旧城）。明末河套内外悉为蒙古之游牧驻地。

公元1644年，满族入关，推翻明朝统治，建立清王朝。太宗于天聪六年（1632）征服土默特部，历崇德、顺治至康熙三年（1664），清政府以戈壁为界，将塞北蒙疆先后划定内外蒙古牧地，内蒙古设置二十五个部、六个盟、五十个旗，五原属鄂尔多斯部伊克昭盟左翼后旗（亦称达拉旗）、右翼后旗（亦称杭锦旗）地各一部。雍正、乾隆间，置道设厅。雍正六年（1728）设归绥道。乾隆六年（1714）设萨拉齐协理通判。乾隆二十五年（1760），因塞外人口增多，垦荒日繁，随于口外设七厅（后增为十二厅），改萨拉齐为理事通判厅，五原属萨拉齐厅西部地。从此，实行旗不管汉，厅不管蒙，蒙汉分治，旗县并存的两种特殊建制。同治四年，改设同知，光绪十年又改抚民同知厅。光绪二十九年（1903）析萨拉齐厅西部地区（达拉特、杭锦、乌拉特旗地区）设五原厅，治大佘太，后移治于隆兴长（今五原县城所在地）。

民国元年（1912），改五原厅为五原县，三年建县城于白（北）圪梁（旧城），统领后套全境。中国的大上海市区，街、路的规划名称均按全国较有名声的市、县和地区方位选定，因五原是塞外河套地区著名的粮仓，故在上海市区的西北角设有五原路。民国八年，析乌拉特前旗地一部别隶固阳。民国14年，又划出五原东西各一部，设安北、临河两县。民国31年（1942），绥西实行新县制，将五、临、安三县划为六县，析五原县西部地增设晏江县（1954年改称达拉特后旗）。1958年7月，撤销达拉特后旗建制，辖区复并入五原县辖领。至今，五原县之建置再未改变。