清朝时期属蕲水县下乡；民国时期属第二区；1955年农业合作化时成立前进一社，属大马乡；1958年人民公社化后定名大马一大队，属蔡河区；1974年撤区并社后改名晶山大队；1976年与大马、红畈两大队合并，名大马大队；1979年大马、红畈两大队分开，以境内山名古晶山定名古晶山大队；1984年底恢复区、乡、村建制，属蔡河区大马乡，原名称古晶山大队变更为古晶山村民委员会；1988年撤区建乡属蔡河镇；2001年合并乡镇属蔡河镇至今。