清代，南山街道地域为新安县典史管属地，有墩头村、向南村、仓前村、北头村、南山村、龙村（今名横龙冈、南光）、龟庙村（今名桂庙）民国时期，地域初属宝安县第一区向南乡、北头乡、南园乡、南山乡，后属第一区南园乡、南厦乡，再后属第一区南头镇。
中华人民共和国成立前属第一区南屏乡1949年10月，属宝安县莲城十约南屏人民联乡。
1951年，属第一区新民乡、新南乡。
1958年3月，属南头乡、是年9月，属超英公社南头生产管理区。
1961年7月，属南头区南头公社南山大队、蛇口公社北头大队。
1970年，蛇口公社北头大队划归南头公社管辖，属南头公社南山大队、北头大队。
1975年，南山大队划分为南山、向南两个大队，属南头公社南山大队、向南大队、北头大队。
1979年1月，属深圳市南头区南头公社。
1981年8月，属罗湖区南头公社。
1983年10月17日，设立南山办事处，隶属于深圳市南头区。
南山办事处自此建立。
1990年9月，南山区成立，南山办事处改称南山街道，隶属于南山区。