东晋开平五年（361年），置武城县，县治所在今武林镇，属永平郡。
南朝宋元嘉二年（425年），改武城县为武林县，武林之名即始。
南朝梁陈时代，武林县曾改为武林侯国。
北宋开宝五年（972年），改属龚州，移治平南。
至此，武林作为县城的时间长达628年之久。
今新贤新地仍有古城残迹。
清朝，属平南零三里。
民国二十二年（1933年），属南一区。
1950年3月，为大安区武林乡。
1958年6月，更名为武林大队。
1984年9月，定名武林镇。