春秋时期为贰国，秦时为南阳郡鄳县地；西汉时为江夏郡钟武县；东汉时属江夏郡平春县；三国时分属江夏郡鄳县、平春县；西晋分属江夏郡鄳县、平春县；东晋分属义阳郡鄳县、平春县；南北朝时期，南朝宋明帝泰始五年（469）始设永阳县、平靖县，属随阳郡。
梁大同二年（536）在应浓山（今印台山）设应州，领永阳县，为广水市建城之始。
北周分属应州永阳县、平林县；隋开皇三年（583）应州领平靖、永阳二县。
开皇十八年（598）改永阳为应山县，为应山县设县之始。
大业二年（606）撤应州，省平靖县并入应山县，属安陆郡；唐武德四年（621）改安陆郡为安州，吉阳、应山二县属之；宋开宝年间（968-975）撤吉阳县，吉阳山以北并入应山县，至此应山县疆域基本固定，仍属安陆郡。
宣和元年（1119）安陆郡升为德安府，辖应山县。
宋南渡后，应山为南北争锋之地；元为应山县，隶属随州；明为应山县，属随州；清为应山县，仍属随州，隶属湖北布政司汉黄德道德安府。
雍正七年（1729）直属德安府；1913年属江汉道。
1927年废道，直属湖北省。
1932年属湖北省第五行政督察区。
1936年改属湖北省第三行政督察区。
1938年日军侵占应山县城，国民党应山县政府迁居浆溪店。
1945年9月国民党应山县政府迁回县城。
1949年解放后，设应山县，属孝感专署。
1960年1月4日国务院批准，撤销孝感专区，应山县划归武汉市领导。
1961年4月24日国务院批准，恢复孝感专区，应山县改属孝感专区。
1988年10月11日，《民政部关于同意湖北省设立广水市给湖北省人民政府的批复》民批〔1988〕38号，撤销应山县，设立广水市（县级），属孝感行政公署。
1993年4月10日，《国务院关于湖北省撤销孝感地区设立孝感市（地级）的批复》国函〔1993〕46号，撤销孝感地区和孝感市（县级），设立孝感市（地级），广水市由省直辖划归地级孝感市代管。
2000年6月25日，依据《国务院关于同意湖北省设立地级随州市的批复》国函[2000]80号，将孝感市代管的广水市划归地级随州市代管。