唐时隶属于闽县。
宋、元至明代中叶属怀安县。
明代下叶和清代归属侯官县。
清末，属侯官县西园区。
民国时期，属闽侯（林森）县五区（新店区）。
中华人民共和国成立后，1949年12月属福州市洪山区。
1952年底属新店区。
1955年5月新店区撤区建乡，属西园乡七一生产合作社。
1960年3月重建新店区，属温泉公社后山大队。
1970年2月，西园、后山、桂山、涌田成立东风大队，为红卫(鼓楼)区东风大队后山生产队。
1975年5月属福州郊区。
1977年属蔬菜区，环城区。
1982年8月复归郊区。
1984年9月废社建乡，更名为后山村设村委会，属福州郊区新店乡。
1992年后山村属郊区新店镇；1995年后山村属晋安区新店镇。
现后山村委会设在村西的玄南岭路。