隋唐时，先后属他楼县和萧关县。
北宋，设萧关（遗址在今高崖乡草场村南），下辖通关堡（遗址在今高崖乡高崖村）、临川堡（遗址在今高崖乡红古村北）、西山堡（在今同心县兴隆乡西山洼村），隶属怀德军。
金时，升萧关为萧镇，属原州（治临泾，在今甘肃镇原南）。
明时，设红古城（古萧关旧址），辖墩台14座，属固原州。
清时，设红古堡（遗址在今高崖乡红古村西），隶属海城县。
民国二十四年（1935年），设清河乡（治红古堡）；同年，裁乡设第五区公所（治红古堡）。
民国二十五年（1936年），红军西征军解放乡境，曾设立高崖乡，隶属陕甘宁边区豫海县回民自治政府。
民国二十六年（1937年），原第五区改为第四区。
民国二十九年（1940年），设立高崖镇。
民国三十八年（1949年）8月，设立高崖区公署。
1952年10月，高崖区改为第四区。
1953年4月，第四区改为第五区。
1958年10月，撤销区乡，设立高崖公社。
1984年1月，高崖公社改为高崖乡。