辖区位于小河与恒河交汇处北侧,当地称恒河为大河而得名。
大河镇始建明朝中期。
清康熙二十二年(1683年),属北沈桑铺所辖。
民国二十四年(1935年),属北区团后联保与沈桑联保的3个保,后改联保为乡,属沈桑乡一、二保。
1949年,设第十四区,后改称大河乡。
1954年,设大河区。
1958年,改大河公社大河管理区。
1961年,成立大河公社。
1983年10月,设大河区。
1984年9月,设大河镇。
1996年,庙梁乡并入大河镇。
2001年11月,流芳乡并入大河镇。