清代，属凌云县管辖。
民国二十四年（1935年），划归凤山县，设为金牙乡。
1950年2月，属第四区。
1951年8月，为第四区驻地。
1957年1月，第四区改称金牙区。
1958年8月，设金牙公社。
1961年6月，金牙公社分为金牙、杭东、巴轩3个公社。
1962年7月，3个公社合并复设金牙区。
1970年7月，金牙区复改为金牙公社。
1984年9月，金牙公社撤销，分设金牙、更沙、中亭3个乡。
2005年，金牙乡改为金牙瑶族乡。