西周为犬戎、西申（白翟）地。
东周、春秋时属林胡地。
战国北属林胡，南归魏境。
秦属上郡肤施县。
西汉分属朔方刺史部上郡奢延县和肤施县。
东汉属并州刺史部上郡肤施、奢延县，今响水一带属圁阴县。
东晋、十六国时期先后属大夏、前赵、前秦、后秦。
北魏属夏州化政郡岩绿县。
北周保定三年（563）今横山镇东党岔为银州治，隋开皇三年（583）于州治兼设儒林县，大业十三年（617）属梁国。
清雍正九年（1731）升怀远堡置怀远县，属榆林府。
1913年改怀远县为横山县，隶属榆林道。
1928年榆林道撤消，省直辖。
1935年属第一行政督察区。
1946年陕甘宁边区横山县政府由初设的韩岔迁殿市镇。
1948年属榆林分区，1949年11月设河北区，1950年初，河北区划榆林，1958横山县制撤销，本境分别划入榆林、靖边、米脂县。
1961年9月，恢复横山县，2015撤县设区改设横山区，至今。