据清修《武昌县志》记载，明成化至清康熙年间，灵乡属武昌县灵溪乡灵一里、灵二里、灵三里、灵四里。
1914年改武昌县为鄂城县，灵乡属鄂城县第三区的灵一、灵二、灵三、灵四里。
1935年，灵乡属鄂城县第三区。
1942年，新四军第五师第十四旅南下抗日，建立革命根据地时，灵乡属大鄂第三区政务委员会。
建国初，灵乡属鄂城县毛家区的罗桥乡、贺余乡、燕窝乡、铺堰乡、下周乡、大汪畈乡、大桥乡和十姑乡。
1952年属鄂城县第十四、十五区的一部分。
1955年属大冶县金牛区谈桥乡、大桥乡和罗桥乡。
1956年属大冶县第十六指导组。
1957年属大冶县金牛区谈桥乡、大桥乡、罗桥乡。
1958年11月属上游人民公社，后并入金牛公社，辖谈桥、大桥、罗桥三个管理区。
1959年改为黄石市灵乡城市人民公社；1962年，恢复县制，为大冶县灵乡乡；1975年，撤区并社，将金牛区罗桥公社、矿山区的大桥、谈桥公社合并为大冶县灵乡人民公社；1980年，设立灵乡镇，与灵乡乡并列，实行镇、乡分管；1984年，乡镇合并，名为灵乡镇，沿用至今。