西汉至十六国“五凉”时期，长城镇境域属武威郡姑臧县和鸾鸟县。
北魏至隋初，属武威郡林中县。
唐宋年间，归姑臧县。
元代时期，属永昌路西凉州。
明清时期，先后归凉州卫和武威县。
民国元年（1912年）后，属大河乡。
1949年，属大河区。
1952年，属第九区、第十区（大河）。
1956年，为长城乡。
1958年，长城、清水、清源乡合并成立清源公社。
1962年，成立长城公社。
1983年，设长城乡。
2017年1月，撤乡，设长城镇。