從皋蘭山下出現氏族部落到現在，蘭州的建制經歷了復雜的演變過程。
相傳大禹治水時，將天下劃分為冀、豫、雍、揚、兗、徐、梁、青，荊九州，據說蘭州一帶屬于雍州。
商、周時期，蘭州是羌族人民游牧的地方。羌族是我國古代的一個少數民族，活動中心在今青海。
戰國時，秦昭王設立隴西郡，蘭州一帶歸隴西郡管轄。
秦始皇統一六國后，“分天下以為三十六郡”.蘭州一帶為隴西郡的轄地，范圍大致包括現今的城關區和榆中縣。
漢武帝將全國劃分為十三部、一百零三郡，在今甘肅境內設有十個郡。元狩二年（公元前121年），在今西固區黃河南岸構筑金城。漢昭帝始元六年（公元前81年），將天水、隴西、張掖三郡各劃出兩個縣，增設了金城郡。隨后又將金城郡的轄區擴大到十三個縣，即允吾（讀鉛牙，即今青海省民和縣東下川口一帶）、浩亹《今紅古區窯街一帶）、令居（今永登西北部）、枝陽（今永登南部）、金城（今西固區一帶）、榆中（今榆中金崖鄉一帶）、枹罕（今臨夏西部）、白石（今夏河一帶）、河關（今臨夏東部）、破羌（今青海樂都西部）、安夷（今青海西寧東部）、允街（今永登南部）、臨羌（今青海西寧西部），郡治設在允吾，隸屬于涼州（今武威）刺史部。萁中令居、枝陽、允街、浩亹、金城、榆中六縣，都在現今蘭州市轄區以內。東漢光武帝建武十二年（公元36年），曾一度將金城郡并入隴西郡，翌年，因防務需要又重新分開，但僅領金城、令居、枝陽、榆中、允街、浩亹六縣。安帝永初四年（公元110），西羌入侵金城，郡治曾一度遷往襄武（今隴西）。
三國時期，金城郡屬于魏國的領土，下轄榆中、允街、金城、浩亹，白土、允吾六縣，隸屬于涼州，郡治仍在允吾。
到西晉時，撤銷允吾縣，金城郡郡治由允吾遷到榆中，領縣由魏國時的六個減少到五個，即：榆中、允街、金城、白土、浩亹。
西晉滅亡后，我國北方相繼出現了與南方東晉政權相對峙的十六個封建割據政權，史稱“五胡十六國”.在此期間，金州郡曾為前、后、西、南、北五涼和前、后、西三秦所轄，領縣錯雜，莫相統一。其中，前涼張0曾一度將金城郡郡治遷往金城（今西固區）‘西秦乞伏國仁則在今榆中縣大營川一帶“筑勇士城以都之”.及至南北朝時期，金城郡又相繼為北魏，西魏、北周所有，隸屬于河州，郡領子城、榆中、大夏三縣，郡治設在位于現今榆中縣境內的子城。那時，也就是十六國至南北朝時期，由于金城郡、縣的變動比較頻繁，郡治和縣治所在地也游移不定。特別是設置“郡”,“縣”的原則，與兩漢時期比較，更是大不相同。在兩漢（尤其是西漢）時，“戶”數不足若干的，“口”數不足若干的，不得隨便設置郡、縣。到十六國和南北朝時，則全然不同，不僅可以隨意設置郡、縣，而且常有不顧戶、口數目，一“郡”只直隸一“縣”的現象發生。其用意自然在于政治上的夸張，即炫耀自己轄有若干郡、若干縣而已。所以，當時的金城“郡”,實際上已經降低到“縣”的水平。據史料記載，西漢時，金城郡領縣十三，有戶三萬八千四百七十，口十四萬九千六百四十八。在十六國至南北朝時期，金城郡無戶口資料可稽。但到隋朝時，金城郡僅領縣二，有戶六千八百一十八，口無統計。便是很好的說明。
隋朝建立后，先是廢郡置州，后又改州置郡。開皇元年（公元581午）文帝設立蘭州總管府，“以皋蘭山為名”.“蘭州”這個名稱，首次見諸史冊。煬帝大業元年，又廢除蘭州府，三年，重設金城郡。并將子城改名為金城。郡轄金城、狄道（今臨洮）二縣。以后又廢除金城縣，新置五泉縣，其轄地大致與今蘭州市城關區相當。
唐初改郡為州，金城郡仍名蘭州。高祖武德二年，首次將州治所在地由隋代的金城（即子城）縣遷至五泉縣，也就是現在的蘭州市城關區一帶。太宗貞觀元年，將全國劃為十道，以道統州。蘭州上屬隴右道，下領五泉和金城（今西固）二縣。高宗咸亨二年，又改五泉縣為金城縣。玄宗天寶元年，復改蘭州為金城郡、金城縣為五泉縣。肅宗乾元二年，再改金城郡為蘭州。安史之亂以后，蘭州失陷于吐蕃。到宣宗大中二年，才復歸唐朝。州領五泉、廣武（即今紅古區一帶）二縣。唐末至五代期間，蘭州又相繼為回鶻、黨項諸族占領，直至神宗元豐四年，方回到北宋的版圖。
北宋初期沿襲唐朝的行政建制。以后又改道為路，全國共設十五路，分領府，州、軍、監。在蘭州設立“蘭州金城軍事”.徽宗崇寧二年，將治所所在地五泉縣改名為蘭泉縣。到南宋時，金朝政權在它所占據的北方設立十九路，分領府、州。高宗紹興元年，蘭州成為金朝屬地。金熙宗星統二年，撤銷蘭泉縣，蘭州轄定遠（今榆中西北部）、龕谷（今榆中）、阿干（今七里河區阿干鎮）三縣，隸屬于臨洮路。
元朝將全國劃分為十二省，下轄路、府、州，縣。蘭州領阿干縣，隸屬于甘肅行中書省臨洮路鞏昌（今隴）總帥府。
明改元制，變行中書省為布政使司，全國共設兩個直隸地和十三個布政使司，分領府、州、縣。甘肅行政隸屬于臨洮府。洪武十一年后，朱元璋為“控要害，以分制海內”,相繼封諸子為藩王。惠帝建文元年，蘭縣成為肅王的王城。憲宗成化十三年，又將蘭縣升為蘭州，轄金縣（今榆中），歸陜西布政使司臨洮府統轄。
清初仍循明制，蘭州隸屬于臨洮府。后恢復元朝的行省建制，下設道、府、直隸州、廳、縣等。鑒于當時我國疆域重新得到統一，“以遙隸陜西，不免鞭長莫及”,康熙五年（公元1666年），清政府決定設立甘肅行省（即甘肅布政使司），與陜西實行分治。并并“酌全隴適中之地，狀區夏控制之形”,在蘭州“建立會城，移設府治”,甘肅巡撫也隨之由鞏昌移駐蘭州，蘭州始成甘肅省會。乾隆三年（公元1738年），準巡撫奏請，五年（公元1740年）將甘肅的政治中心由臨洮府遷到蘭州，稱為蘭州府，并將蘭州改為皋蘭縣。蘭州府統領兩州：狄道州、河州、一廳：循化廳（今青海循化），四縣：皋蘭、金縣、渭源、靖遠，府治設在皋蘭縣，也就是現在的城關區。
辛亥革命后，該府、州、廳為道、縣，以省統道，以道統縣。公元1913年，將蘭州、鞏昌二府合并為蘭山道，統領十五個縣，即：皋蘭、紅水、榆中、狄道、導河、寧定、洮沙、靖遠，渭源、定西、臨潭、隴西、岷縣、會寧和漳縣。道尹駐在皋蘭。公元1927年，改道為區，皋蘭、榆中屬于蘭山區。公元1936年，又劃甘肅省為七個行政督察專員公署，皋蘭、榆中屬于第一行政督察專員公署，署治駐岷縣。隨后又將皋蘭縣縣城劃出一部分，于公元1941年7月1日正式成立了蘭州市。任命蔡孟堅為首任市長。市政府與皋蘭縣政府同設在現今城關區武都路，市縣并列，市轄城區，縣轄鄉村。市區東起東稍門，西至七里河，南至皋蘭山，北至廟灘子，面積約十六平方公里。到公元1944年，市區面積才擴展到一百四十六平方公里。
新中國成立以來的三十余年間，蘭州市的建制曾幾經變動。公元1985年底，全市共轄城關、七里河、安寧、西固、紅古，五個區和榆中、皋蘭、永登三個縣，總面積達一萬三千八百六十九平方公里，其中市區面積一千六百三十一點六平方公里。甘肅省和蘭州市的黨政軍首腦機關全部設在城關區，也就是蘭州舊城所在地。
倘若從西漢設置金城郡算起，到公元1985年為止，蘭州已經經歷了將近兩千一百年的風云變幻。因此，把蘭州稱為黃土高原上的歷史古城，絲毫也不夸張。
