榆阳古属雍州。
商时属鬼方，西周为猃狁所辖。
春秋时为林胡、白翟地。
战国初属魏，置上郡。
秦为上郡。
汉仍置上郡，并设龟兹、鸿门、独乐三县。
三国为匈奴所据。
东晋时，初属后赵，置上郡。
后属前秦，又属后秦。
赫连勃勃建大夏国，为大夏国都统万城隶地。
北魏灭夏，置夏州。
并在原汉龟兹县设上郡，属国城。
北周时设银州，为银州州治。
后周置称浑戌。
隋开皇初改德静镇。
大业九年（613年）置德静县，属朔方郡。
唐设银州（治儒林）。
宋代为西夏地，设左厢神勇军司，监军司驻地称弥陀河。
元为延安路管辖，为米脂县地。
明初为延安府管辖，仍属米脂县。
明成化七年（1471年）设榆林卫，成化九年（1473年）榆林卫治所由绥德迁至榆林，设榆林镇。
清初，仍沿明代旧制。
雍正八年（1730年）榆林卫改设榆林府、榆林县，府治榆林县。
民国初（1913年）废府置榆林道，道治榆林县。
1933年撤销道制，1935年设陕西省第一行政督察专员公署，公署驻地榆林县。
1946年10月榆林县东南部镇川、清泉等地和横山县响水、武镇等地解放，建立镇川县人民政府（驻地镇川堡）。
辖镇川、盐湾、清泉、鱼河、武镇、响水6个区，42个乡。
1949年4月镇川县改设为榆林县。
同年6月1日榆林和平解放，设榆林市人民政府。
1950年4月，榆林市并入榆林县。
同时与横山、神府县相互调整区划，榆林县武镇区、响水区划予横山县，横山县河北区划予榆林县，神府县开光区、双建区划予榆林县。
1953年末辖榆林市及镇川、清泉、上盐湾、鱼河、古塔寺、青云山、安崖底、双山堡、牛家梁、孟家湾、马合、芹河、巴拉素13个区，87个乡（街），823个村，12个居民委员会。
1956年3月调整为9个区、1个直属乡。
1958年9月撤区并乡，设23个乡（镇）。
同年12月横山县并入榆林县，辖33个人民公社（乡镇）、97个生产管理区、469个生产大队。
1961年9月榆林横山分县后，榆林县辖28个人民公社，3个代政农场，下设388个生产大队，19个分场。
此后全县区划虽经数次调整，但榆林县辖域再未变动。
1984年7月实行政社分设，恢复了乡镇，行政村建置，辖4镇24乡，4个街道办事处，86个居民委员会，480个村民委员会，1633个自然村。
1988年9月撤销榆林县设立榆林市（县级）。
1989年7月撤榆林镇及其下属8个办事处，设榆阳乡和鼓楼、新明楼、上郡路、青山路4个街道办事处（乡级）。
1999年末全市辖10个镇、18个乡、4个街道。
2000年6月撤销榆林市设榆阳区，榆林地区改设为榆林市，榆阳区隶属榆林市。
2001年12月辖12个镇、12个乡、4个街道。
2003年3月增设崇文路、航宇路、驼峰路3个街道办事处。
2011年10月，撤销安崖镇与大河塔乡合并设立大河塔镇；撤销刘千河乡与青云乡合并设立青云镇；撤销余兴庄乡与古塔乡合并设立古塔镇。
2000年7月，县级榆林市改为榆阳区，沿用至今。