清末，已形成额和沁（今亚东村）等村屯，属依兰府。
1913年属依兰县管辖。
1918年属勃利县西乡。
1933年划为勃利县第十四甲。
1938年分属古城村、青山村、县城区。
1939年6月，划归林口县。
1946年5月并入五林县，隶属第二自治区。
1947年2月复归林口县，设置第六区，1949年改称亚河区。
1956年4月撤区划乡，分设青山、亚河、虎山3乡。
同年9月，撤销虎山、亚河两乡并入青山乡，驻地青山河。
1958年成立亚河人民公社，驻地亚河。
1984年4月，改称亚河乡。
2003年10月，乡政府迁至青山村附近的青山煤矿，遂更名为青山乡。
2010年7月，改设青山镇。
名称沿用至今。