明清分属太原县、阳曲县地。
1947年划入太原市外四区。
1949年属第七区，设大井峪行政村。
1950年属第五区，设小井峪行政村。
1953年设小井峪乡。
1954年属万柏林区。
1957年属郊区。
1959年属河西区，设小井峪农村人民公社。
1960年属和平公社小井峪农村管理区。
1961年属河西区小井峪农村人民公社。
1963年属郊区。
1970年属北郊区。
1984年改小井峪乡。
1997年属万柏林区。
2007年3月小井峪乡改为小井峪街道，沿用至今。