秦属太原郡晋阳县地。
隋属太原县地。
北宋太平兴国四年（979）平北汉，毁晋阳城，于汾河之东筑城，置平晋县，治所在今小店街道城西村东。
熙宁三年（1070年）废平晋县入阳曲县。
政和五年（1115）复置平晋县。
贞祐四年（1216）废平晋县，次年复置。
元仍称平晋，属太原路，后属冀宁路。
明洪武四年（1371）徙平晋县治于汾河之西古晋阳南关（今晋源镇）。
七年（1374）废平晋县，改称太原县。
清仍属太原县地。
1947年9月，改太原县为晋源县。
1949年5月6日区境属外一区、外二区、晋源县。
1950年2月8日属第四区、晋源县。
1951年8月撤销晋源县，于汾河东置太原市第七区，驻北格镇。
区境域分属太原市第四区、第七区。
1954年1月2日属太原市第四区，区人民政府驻小店镇。
同年6月4日第四区改名为小店区，第一区改名为南城区，今境分属小店区和南城区。
1957年3月12日分属太原市郊区、南城区。
1959年3月撤销郊区，属南城区。
1960年太原市撤销区建置，成立城市人民公社和农村人民公社，区境分属小店农村人民公社和双塔、柳巷城市人民公社。
1961年5月18日撤销“大公社”，恢复区建置，区境分属南城区、晋源区。
1963年4月1日撤销晋源区，将太原市所辖农村人民公社合并成立太原市郊区，区境分属南城区、郊区。
1970年3月26日撤销太原市郊区建置，新置南郊区、北郊区，区境属南郊区。
区革命委员会驻小店。
1984年撤销人民公社建置、恢复乡镇村建置。
1997年12月12日太原市调整辖区行政区划，新设小店区。
1998年1月1日小店区挂牌成立，沿用至今。