1958年，人民公社实行政社合一，成立南家湾大队，因大队部驻南家湾村而得名；1969年为凉水湾大队，因大队部搬驻凉水湾村得名；1984年，改变“政社合一”体制，公社改为乡（镇），设立乡政权，乡下为村，设村民委员会，村下设村民小组，凉水湾大队改名为凉水湾村民委员会；2014年12月26日，凉水湾村委会、穆家塌村委会合并为凉水湾村委会。
1936年6月21日，驻横山县石湾国民党86师炮兵营张云衢部进犯瓦窑堡，毛泽东、周恩来等随中央机关撤离，当日抵原寺湾乡前滴哨，次日抵凉水湾村，在此居住9天。