解放前，葫麻水属靖远县。
1933年，景泰成立后，葫麻水划归景泰，属芦阳区。
解放前属景泰县中泉乡第三堡，解放后属五区第三乡，1955年撤区并乡，属常湾乡，后与常生合建常水高级社，1958年公社化后，为中泉公社长水大队。
1961年体制调整时，白水、大水、红岘台、崇华、常生、葫麻水大队分出。
（1961年至1964年属三水公社），1974年从常水大队分出，建立葫麻水大队。
1982年正式命名为葫麻水村，沿用至今。