请同治元年（1862）当地人称此地为“宝山”。
属呼兰副都统，清光绪十一年（1885）后，划归绥化理事通判厅管辖。
中华民国时期，隶属永安镇。
1935年设宝山保，1941年改设宝山村。
1945年“九三”抗日战争胜利后，设置宝山区。
1951年11月改为第二区。
1956年4月，并村划乡，设置宝山乡。
1958年8月，将胜利乡和新立乡并入宝山乡，成立宝山人民公社。
1961年将宝山公社划分为宝山、胜利两个公社。
1984年3月，将宝山公社改为宝山乡。
1985年4月，改为宝山镇，名称沿用至今。