彭阳历史悠久，旧石器时代就有人类在红河、茹河流域繁衍生息。
夏商时，居住在漠北以戎族为主的少数民族相继进入，与土著民族融合，统称“西戎诸国”。
西周早期在姚河源建立封国。
战国秦昭襄王三十五年(前272)，秦灭义渠国后在今古城镇设朝那县，秦汉魏晋续延，十六国设长城护军。
北朝时设黄石县、白池县、长城县。
隋唐设平凉县、百泉县，唐贞观十年(636)在百泉县设折冲都尉府。
唐末五代陷于吐蕃，宋咸平六年(1003)设彭阳城（或称彭阳堡，近代又称白杨城）。
金置东山县、三川县。
元设广安县，又升州。
明初，撤广安州并入开成县。
明、清、民国分別隶属固原州、固原直隶州、固原县。
明代有官吏文人桑溥曾以“彭阳城”作诗留下“曙色彭阳道，天空度雁声。
旗翻青障外，人傍白云行。
露重征袍湿，山高野火明。
十年常做客，深愧兢浮人”等诗句。
当时的彭阳城是防御鞑靼的重要城池，并驻有兵马，或称彭阳堡，近代又称白杨城，明弘治十八年（1505年），固原的三边总制杨一清曾展筑砖包彭阳城，彭阳城逐渐成为固原东部的中心。
1935年毛泽东率领中央红军过彭阳时曾途经于此。
1936年，设中共固北县委、县苏维埃政府、中共固原县委(驻三岔、草庙)。
中华人民共和国成立后，彭阳境隶属固原县。
1983年7月，固原县析置彭阳县。