夏、商属杨州之域。
春秋战国属吴、越、楚。
秦属九江郡。
西汉属南城县。
东汉属临汝县。
三国吴太平二年(257)析临汝县设宜黄县，县城在宜水、黄水汇合处，因名宜黄，属临川郡。
晋元康元年（291），析荆、扬十郡置江州，辖临川郡，宜黄隶之。
陈永定元年（557），析江州立高州，宜黄仍属临川郡为侯国。
隋开皇九年(589)划归崇仁县。
唐武德五年(622)复设宜黄县，隶属抚州。
武德八年(625)复归崇仁县。
宋开宝元年(968)析崇仁县崇贤、仙贤、岱贤立宜黄场。
宋开宝三年(970)升场为县，属抚州。
后主准其请，遂升场为县，隶抚州，设县治于黄填镇（今凤冈镇）；开宝八年（975），南唐土地尽入于宋，改抚州为军州，抚州军归宋。
自此宜黄设县及县名均未变动；绍兴十九年（1149），改抚州为抚州府，宜黄属之。
此后一直未变，故有建于吴，定于宋之称。
元至元十三年（1276），抚州军改抚州路，宜黄隶之。
明洪武元年（1368），抚州路改抚州府，宜黄属之；洪武九年（1377），废行中书省设承宣布政使司，下分道、府，宜黄属江西承宣布政使司湖东道抚州府。
1912年，废府，各县直辖于省；1914年，江西省分4道，宜黄县属豫章道；1926年，废豫章道，宜黄县直辖于江西省；1932年，宜黄属第八行政区；1935年，宜黄县属第七行政区。
1949年5月10日，隶属抚州专区，辖6区、3镇、72乡。
1951年增设第七区。
1956年，撤区并乡，辖1镇、29乡。
1958年，辖14公社。
1961年、辖25公社。
1963年，辖18公社、1镇、2垦殖场。
1966年，辖15个公社，1镇、3垦殖场。
1978年，属抚州地区，辖18公社、1镇，7垦殖场。
1986年，撤社建宜黄乡，辖13乡、3镇，2垦殖场。
1997年辖11乡、5镇、2垦殖场。
2000年7月，属抚州市。
2001年，辖6乡、6镇、2垦殖场。
2011年，辖8镇、4乡、2垦殖场。