民国初属附城，1931年建本城镇，1945年改称碾伯镇，1958年成立碾伯公社，1984年改碾伯镇。
2001年，辖东门巷、东关、城中、海力公司、西门、康东新村、西关7个居委会和上寨、下寨、后营、沙坝、邓家庄、西门、东庄、杨家门、前庄、后庄、苏家、王家、河湾、东关、东门巷、北门一、北门二、徐家沙沟、八家、八里桥、黄家、下李家、城中、河门街24个行政村。
2006年8月，撤销岗沟镇，并入碾伯镇，镇政府迁至原岗沟镇驻地。
2022年，乐都区撤销碾伯镇，设立碾伯街道、岗沟街道。