1953年建镇。
1958年复改云中公社。
1968年更名东方红公社。
1977年改牯岭镇公社。
1981年改牯岭镇街道。
1987年改牯岭镇。
1997年，面积53平方千米，人口1.5万，辖芦林、长冲、日照、正街、窑洼、橄榄、大林、花径8个居委会和朝阳、胜利2个行政村。
镇属九江市庐山区。
2016年3月，根据《国务院关于同意江西省调整九江市部分行政区划的批复》（国函〔2016〕58号）精神，江西省政府经研究，撤销星子县，设立县级庐山市，将九江市庐山区牯岭镇划归庐山市管辖。
以原星子县和九江市庐山区牯岭镇的行政区域为庐山市的行政区域。
将九江市庐山区更名为濂溪区。
将驻九江市濂溪区赛阳镇的庐山云雾茶场（含剪刀峡景区入口）、庐山茶科所，驻莲花镇的莲花林场，驻海会镇庐山茶场管理范围划入庐山市牯岭镇管辖。