秦统一后，置相县、铚县、蕲县、符离县，属泗水郡。
西汉元狩六年（前117），设梧县，属沛郡。
东汉建武二十年（44），改沛郡为沛国，国都在相。
西晋太康二年（281），复置沛国，建都相县。
南朝梁普通六年（525），置临涣郡。
东魏武定五年（547），临涣郡析置白掸县和涣北县。
北齐天保元年（550），废涣北县，置竹邑县。
隋开皇三年（583），竹邑县废，并入符离县。
唐元和四年（809），以徐州之符离县、蕲县、泗州之虹县置宿州。
元至元二年（1265），废符离县、临涣县、蕲县，并入宿州，属徐州之萧县和宿州管辖。
明洪武四年（1371），属临濠府。
清顺治二年（1645），属江南省直隶徐州、凤阳府。
1912年，分属安徽省宿县和江苏省萧县。
1949年6月，属皖北人民行政公署宿县专区。
1950年，由宿县重置宿西县，后宿西县改为濉溪县。
1959年3月22日，撤销濉溪县，设立濉溪市。
1961年6月17日，成立濉溪市郊区。
1971年3月29日，宿县专区更名为宿县地区；1971年3月30日，改濉溪市为淮北市。
1977年1月20日，濉溪县划归淮北市管辖。
1985年7月15日，淮北市撤销宿东办事处，所辖区域划归宿县地区宿州市管辖。
2019年，淮北市有15个街道办事处、18个镇。