灵丘之名，早在战国时代就已出现。
灵丘就是以赵武灵王死后葬于此地而得名。
至今传说在县城城关的西部，有座高大的土丘，就是赵武灵王之墓。
西汉初设置灵丘县，属幽州代郡。
东汉属中山国，不久废。
三国时又属中山国。
北魏复置灵丘郡，属司州，后改属恒州；又于境内别置莎泉县。
东魏属北灵丘郡。
北周置蔚州，又立大昌县，唐属蔚州，后又历属安边，兴唐二郡。
乾元元年（758年）复为蔚州，县仍属之。
辽隶蔚州忠顺军。
金贞祐二年（1214年）。
改成州，属西京路。
元复为灵丘县，属上都路宣德府蔚州。
明属大同府蔚州。
清属山西省大同府。
1912年属山西省。
1937年属山西省第一行政区（沿五台），1937年9月25日平型关大捷后灵丘开辟为抗日革命根据地。
1938年1月晋察冀边区成立，灵丘属第二专区。
1945年3月31日灵丘全县解放，属晋察冀边区。
1949年8月属察哈尔省雁北专署。
1952年11月重归山西省雁北专署。
1959年1月属山西省雁北地区。
1961年雁北专署改为晋北地区。
1971年改属雁北地区管辖。
1978年改雁北行署管辖。
1993年7月地市合并后属大同市。