清康乾时期，古绵州城遭遇两次毁灭性洪水，冲去三分之二州城后，致州署迁至罗江，至嘉庆五年（1800年）为防白莲教，州牧刘印全率民修筑城堤后，陈跃庚等又分筑了河堤。
清咸丰丁巳（1857年）涪水泛涨，州牧毛震寿率民修补河堤后，又建“镇水犀”三具，建杨泗将军庙（即泗王庙）及土地庙（镇江王爷庙）一所。
而铁牛街名就源于铁牛街口河堤上有铁牛一具，故称“铁牛街”。
1958年大炼钢铁中，铁牛被毁。
1999年建滨江广场后，又在原地址附近重建“镇水铁牛”雕塑一具。
铁牛街社区居民委员会于1998年挂牌成立后沿用至今。