1948年4月前属尚义乡第一保（本保含烈姜沟、小沟、南地），后属第二区（孝义区）东白沙行政村。
1952年属第二区（孝义区）白沙乡。
1959年为孝义公社小沟生产队。
1961年为孝义区白沙公社小沟大队。
1963年为孝义公社小沟大队。
1982年孝义公社改为城关镇。
1983年生产大队改为村民委员会，为城关镇小沟村，同年设立小沟村民委员会。
1986年城关镇复名为孝义镇。
2003年撤镇设立孝义街道，为孝义街道小沟村民委员会。