唐尧之世，黑山即为冀州之域。
禹平水土，置九州，黑山在虞。
夏商时代，为营州属境（据《大明一统志》：广宁以西为幽州，广宁以东之地为营州）。
殷制九州，与舜时异，而黑山仍属营州。
战国时期，属燕国辽东郡地。
秦始皇二十六年（前221年），统一中国后，分全国为三十六郡，黑山境仍属于辽东郡（今辽阳市）。
西汉，属幽州刺支部辽东郡。
东汉，属辽东属国，三国，属幽州昌黎郡（今义县）。
西晋，属平州（今辽阳）昌黎郡（今义县）。
东晋十六国前燕、前秦、后燕仍属平州昌黎郡。
南北朝时，黑山地属北魏。
太平真君五年（444年）北魏置营州于龙城（今朝阳市），领昌黎等郡，黑山为营州昌黎郡（今朝阳）属境。
唐贞观初，因山河形势之便，分全国为十道，并改置柳城（今朝阳）为营州，黑山为河北道营州所辖。
其后因渤海侵据，安东都护府内迁至辽东地区，旋治辽东城（今辽阳）又迁新城（今抚顺市北）；天宝二年（743年）又迁辽西故郡城（今义县大凌河东岸）。
辽代，属东京道显州奉先军。
辽神册元年（916年），太祖耶律阿保机建立契丹国，都皇都（今内蒙古巴林左旗南波罗城）；辽会同十年（947年），改国号为辽，改皇都为上京。
南以今天津海河、河北霸县、山西雁门关一线与北宋对峙。
黑山地属辽国。
辽置显州（治所在今北镇西南）并设山东县（今北镇）。
金，属北京路广宁府，金大定二十九年（1189年），置望平县。
元属广宁府路，境内设望平县。
明，属广宁卫。
清入关后，本境分属广宁县（今北镇）。
当时东北三省实行将军制，广宁县隶属奉天省盛京将军统辖。
清嘉庆十八年（1813年），分广宁、承德。
清光绪二十八年（1902年），嗣后，清政府为了镇压义和团运动，清除鞭长莫及之弊，始在广宁、新民分治，置官设县，名为镇安县（并于小三家子设镇安分县）。
民国三年（1914年）1月，因与陕西镇安县同名，后改为黑山县，隶属于奉天省辽沈道，民国八年（1929年），属辽宁省。
民国二十一年（1932年），属奉天省。
民国二十四年（1935年），属锦州省。
1949年，属辽西省。
1954年，属辽宁省锦州市辖县。