1956年7月，属县辖黄乡管辖。
1958年人民公社时期，丰衣、建国两个高级合作社合并为君山大队，属北河人民公社黄管理区管辖。
1961年，属北河区黄公社管辖。
1966年改为丰衣大队。
1975年8月，属城关镇黄管理区管辖。
1981年县政府27号文件将其更名为老军山大队。
1984年更名为老军山村，设立老军山村村民委员会，属谷城镇黄乡管辖。
1987年9月，谷城镇更名为城关镇，老军山村属城关镇管辖至今。