宋至清为神泉里，属上元县神泉乡、清化乡地。
清末改称汤水镇。
中华民国属江宁县。
1934年改称汤山镇。
1949年沿之。
1954年属江宁县汤山区。
1956年汤山镇划为县属镇。
1958年汤山镇改汤山人民公社，上峰乡改上峰人民公社。
1961年从汤山人民公社析置县属汤山镇。
1982年汤山、上峰2公社分别改汤山乡、上峰乡。
1983年5月汤山乡并入汤山镇。
1996年2月上峰乡改镇。
2005年12月汤山镇改街道。
2006年3月上峰镇和麒麟镇悦民、麒麟门、麒麟铺、晨光、锁石、东流、青西、袁家边8个社区（村）并入。
2010年5月麒麟门、麒麟铺、晨光、锁石、东流、袁家边6个社区（村）析出。
2011年5月桦墅村、孟北村划归栖霞区西岗街道至今。