商周为西羌地。
秦始皇三十三年（前214）置榆中县，属陇西郡。
西汉中期为金城郡地，属凉州刺史部。
隋文帝开皇三年（583），改金城郡为兰州，置总管府。
隋炀帝大业三年，改子城县为金城县，复改兰州为金城郡，领金城、狄道二县，郡治金城。
唐高祖武德二年（619年）复置兰州。
武德八年（625），置都督府。
唐高宗显庆元年（656），又改为州。
唐玄宗天宝元年（742），复改为金城郡。
唐肃宗乾元二年（759），又改金城郡为兰州，州治五泉，管辖五泉、广武二县。
明太祖洪武二年（1369），明军战败元军，攻取兰州，次年置兰州卫。
清朝顺治十三年（1656）裁卫归州。
清朝康熙二年（1662）复设兰州卫。
清朝康熙五年（1666）陕甘分治，设甘肃行省，省会由巩昌（今陇西）迁至兰州。
清朝乾隆三年（1738）临洮府治由狄道移至兰州，改称兰州府，又改州为皋兰县。
当时兰州府辖管狄道、河州二州；皋兰、金县、渭源、靖远四县。
1913年废府州设道，并兰山、巩昌二府为兰山道，辖管皋兰、红水、榆中、狄道、导河、宁定、洮沙、靖远、渭源、定西、临潭、陇西、岷县、会宁、漳县等十五县。
道尹驻省会皋兰县。
1927年改道为区，变兰山道为兰山区。
1941年，将皋兰县城郊划出，新设置兰州市，与皋兰县同治今兰州城关区。
1949年08月，兰州解放。
解放初期，兰州由县级市升为地级市，辖9个区和皋兰县。
榆中县属定西专区，永登县属武威专区。
1951年8月13日，皋兰县直隶于省政府。
1953年3月2日，兰州市调整为8个区。
1955年9月30日，兰州市辖城关、东岗、七里河、西固、盐场、安宁、阿干7个区。
之后，行政区划几经调整变更。
1985年，恢复白银市为地级市，兰州市白银区和皋兰县强湾等3个乡先后划归白银市，兰州市辖永登、榆中、皋兰3县和城关、七里河、西固、安宁、红古5区，至今未变。