元代的义呈里，明清的永川乡十九都，民国时期的永毅乡（后改靖毅乡）等基层政权设于此。
1950年，属第五区管辖。
1955年6月，改以驻地命名。
1956年5月，撤区并乡，改为粗石江乡。
1958年10月，改为粗石江人民公社。
1961年7月，恢复区建制后，分为粗石江、城下、黄金山、下禾洞四个人民公社，属桃川区管辖。
1966年，“四清”运动后，撤区并社，原粗石江、黄金山、下禾洞三个公社合并为粗石江人民公社。
1984年，撤销人民公社建制，建立乡人民政府，粗石江设镇，并另立清溪瑶族乡。
1995年，撤乡并镇，由原城下乡、清溪瑶族乡、粗石江镇合并为粗石江镇。