上古时代史称“榆次”。
晋悼公时，史称“魏榆”。
晋昭公五年（前527），大夫中行穆子（荀吴）建都魏榆，北伐翟，故又称“中都”。
晋顷公十二年（前514），涂水邑为现榆次之雏形。
战国时期，榆次始属魏，后属赵。
赵孝成王十九年（前247），秦国占领榆次，次年建县置。
经两汉魏晋，到北魏太平真君二年（441），榆次并入晋阳，九年（448），中都县迁治所于原榆次县境东，称中都县。
之后，榆次或稳定，或纷乱，经历朝历代，名称为榆次没有变化。
到1937年，日本侵略军长驱直入侵占榆次，成立日伪政府。
榆次人民不忍外侵，在中国共产党榆次地方组织领导下，揭竿而起开赴东山八缚岭，建立抗日根据地，成立榆次（路东或路南）抗日政权。
次年，以正太、南同蒲铁路为界，与相邻县域又分别成立榆太祁（路西）县，榆次（榆寿、寿榆）（路北）县抗日政权。
1948年7月榆次全境解放，恢复统一的榆次县。
1954年5月成立榆次市，与榆次县并行。
1958年6月，榆次县并入市（寿阳县并入，约一年后分出），1963年3月市改县，1971年7月又市、县分设，1983年9月市、县合并，恢复榆次市，2000年1月撤市设区为晋中市榆次区，至今。