唐朝李世民东征高丽曾在此驻军，在别山东筑有姜须城。
辖区在清道光年间（1831）分属仁智乡里，上负鼎里；清末，分属仁智乡里山前乡保，山后乡保，上负鼎里纪各庄乡保。
民国时期建别山镇，属六区，其余村庄分属王杠庄乡，小八沟乡，徐各庄乡，鲁庄子乡。
1912年为区工所驻地，1942年为伪“区公所”驻地，1942年建伪“别山镇”。
1949年后，仍属六区；1953年建别山乡。
1958年属溵溜公社，设别山、王杠庄两个管理区；1959年将楼上乡、爱国乡、和平乡、大官场乡并入。
1960年，别山等36个村划归玉田县，1962年复归蓟县，改为别山公社。
1983年改公社为乡，2002年撤乡并镇，将翠屏山乡一块并为别山镇。