甘肅省武威市地處河西走廊的東端，是絲綢之路上的重要節點，在漢朝之前，這里是月氏人、匈奴人控制的地區。
大概是在秦末漢初的時候，河西走廊被月氏人控制，此時北方草原上的匈奴崛起，匈奴通過一系列戰爭，打敗并趕走了月氏，月氏人西遷到西域及中亞，河西走廊就被匈奴人控制。
武威二字在歷史上比涼州出現得更早，這緣于漢武帝對匈奴戰爭的勝利，公元前121年，漢武帝發動河西之戰，命令驃騎將軍霍去病率領1萬騎兵攻打河西走廊。
霍去病從隴西郡（今甘肅天水）出發，越過烏戾山（今烏蘭山），渡過黃河，攻打匈奴遫濮部，斬殺其首領，渡過狐奴水（今甘肅葫蘆河），擊破匈奴五大部落。
然后霍去病率軍越過焉支山，在皋蘭山與匈奴主力決戰，霍去病擊敗匈奴渾邪王和休屠王，斬殺折蘭王和盧侯王。
幾個月后，漢武帝發動第二次河西之戰，霍去病率領數萬騎兵出北地郡（今甘肅慶陽），從寧夏靈武渡過黃河，再向北越過賀蘭山，穿過騰格里沙漠和巴丹吉林沙漠，繞過居延海（今內蒙古阿拉善盟額濟納旗北部）。
沿弱水（今甘肅山丹河、黑河，在內蒙古稱額濟納河）從北向南，經甘肅酒泉，再從西北向東南，在祁連山與合黎山之間的弱水上游地區攻擊匈奴渾邪王與休屠王軍兩部，漢軍重創渾邪王與休屠王部，迫使二王投降漢朝。
經此兩戰后，漢朝打通了河西走廊，這是中原政權第一次占據河西走廊，為了方便管理當地，漢武帝在這里實行郡縣制管理，設置了四個郡，分別是：武威郡、酒泉郡、張掖郡、敦煌郡。
武威之名來自武功軍威，漢武帝奪取河西走廊后，為了彰顯大漢武功軍威，以武威二字取為郡名，武威郡的轄區大致是今天甘肅中部武威市及白銀市西北一帶，治所在姑臧，今武威市涼州區，下轄10縣。
這10縣分別是：姑臧（今武威市涼州區）、張掖（今武威市涼州區）、武威（今武威市民勤縣收成鄉）、休屠（今武威市北）、揟次（今甘肅古浪縣土門鎮）、鸞鳥（今武威市南）、撲擐（今武威市古浪縣東）、媼圍（今白銀市景泰縣）、蒼松（今甘肅武威市東南）、宣威（甘肅省民勤縣西南），治所在姑臧。
姑臧二字也是在漢武帝時期首次出現，姑臧這二個字來源于匈奴人修建的蓋臧城，當時漢人發音為姑臧，姑臧和武威兩個地名都在漢武帝時期開始出現，不同的是武威是郡名，姑臧是縣名。
酒泉二字得名于“城下有泉、其水若酒”，據說現在酒泉市的泉湖公園就是當年西漢時期發現的泉水，酒泉郡下轄福祿（今酒泉市）、樂涫（今甘肅省酒泉市東南）、表是（今甘肅高臺縣西）、會水（今甘肅金塔縣東北）、玉門（今甘肅玉門市）、池頭（今甘肅玉門市西北）六縣，治所在福祿縣。
張掖二字得名于“張國臂掖、以通西域”，這話的意思是：斷匈奴之臂，張中國之掖（腋）的意思，張掖郡下轄10縣，分別是：觻得（今張掖市西北）、昭武（今甘肅臨澤縣東北）、刪丹（今甘肅山丹縣）、氐池（今甘肅民樂縣）、屋蘭（今張掖市甘州區堿灘鎮）、日勒（今甘肅永昌縣西北）、驪靬（今甘肅省金昌市永昌縣焦家莊鄉）、番和（今甘肅永昌縣西）、居延（今內蒙古額濟納旗東南）、顯美（今甘肅永昌縣城東），治所在觻得縣。
敦煌二字是一個例外，這是在漢武帝設置河西四郡之前就存在的名字，來自于張騫出使西域歸來給漢武帝上書的報告中，其中有這么一句話“始月氏居敦煌、祁連間”，敦煌和祁連兩個名字都出現了，漢武帝就用了現在的名字來做為郡縣。
敦煌郡下轄六縣，分別是：敦煌（今敦煌市西）、冥安（今甘肅安西縣東南）、效谷（今甘肅省安西縣西）、淵泉（今甘肅安西縣東）、廣至（今甘肅安西縣東南）、龍勒（今甘肅敦煌西南），治所在敦煌縣。
公元前106年，漢武帝為了更好地監督管理地方，將整個天下分為十三個刺史部，刺史是監察官，主要用來是監督地方官的，糾察違法行為的，十三個刺史部分別是：冀州、兗州、青州、徐州、揚州、荊州、豫州、涼州、益州、幽州、并州、朔方、交趾，這十三個刺史部在東漢時期演化為州。
漢武帝在長安以西設置了涼州刺史部，負責監察六個郡，分別是：隴西郡、金城郡、武威郡、張掖郡、酒泉郡、敦煌郡。治所在武威郡姑臧縣（今武威市涼州區），涼州刺史部主要是河西四郡加隴右二郡，整個涼州刺史部管轄的范圍大致與今天的甘肅省相當。
除了朔方與交趾之外，十三刺史部的名字大多來自上古九州，也就是禹貢九州，禹貢九州分別是：冀州、兗州、徐州、青州、揚州、荊州、豫州、雍州、益州，其中的雍州被一分為二，雍州東部地區被漢武帝劃歸司隸校尉管轄，西部地區的隴西郡、金城郡被漢武帝連同河四郡一起成立了一個新的刺史部，名字叫涼州。
涼州這個名字是漢武帝起的，因為河西走廊地處西北，是非常寒涼的地方，漢武帝因此取名為涼州，涼州除了有寒涼的意思之外，還有荒涼之意，意思是那里人口非常少，涼州屬河西之地，原本是月氏與匈奴人游牧的地區，漢朝占據這里后，開始大量移民，但人口相比于傳統的漢地，仍然很少，故稱涼。
到東漢時期，正式形成了十三州的一級行政區，分別是：幽州、冀州、并州、兗州、司隸州（司隸校尉部）、豫州、徐州、荊州、青州、揚州、涼州（先設雍州，后改涼州）、益州、交州。
東漢的涼州下轄郡國共計12個，分別是：武威郡、敦煌郡、酒泉郡、張掖郡、金城郡、隴西郡、安定郡、漢陽郡、北地郡、武都郡、張掖屬國、張掖居延屬國，比西漢多了一倍，共計98個縣，治所仍然設在姑臧縣，其轄區大致包括了今天的甘肅全省、寧夏回族自治區、青海湟水流域和陜西西部地區。
在東漢時期，關于武威與涼州的關系，可以這么說：武威是二級行政區，涼州是一級行政區，武威屬于涼州，涼州卻不屬于武威。三國時期與西晉時期大致與兩漢時期的行政區域劃分相似，但也有所不同。
南北朝時期，涼州成為軍閥割據之地，諸多軍閥在這里建立了政權，其政權大多都有一個涼字。
比如公元386年，前秦將領呂光建立后涼政權，定都姑臧；397年，鮮卑族禿發烏孤建立南涼政權，定都西平（今青海西寧），后遷都姑臧；397年，后涼建康太守建康太守段業建立北涼政權，定都姑臧；400年，后涼敦煌太守李暠建立西涼政權，定都敦煌縣。
后來北魏滅亡北涼，統一整個北方，仍然在河西走廊設置涼州，下轄武威、昌松、魏安、番禾、廣武5郡，治所在武威郡姑臧縣，北魏后來分裂為東魏和西魏，西魏被北周取代，東魏被北齊取代，北周滅北齊再次統一天下，在河西走廊設置涼州總管府，下轄武威、廣武2郡，治所仍然在姑臧。
唐朝時期，將全國分為十道，道為一級行政區，相當于漢朝的州，河西走廊屬于隴右道，隴右道管轄的范圍相當廣，下轄17州2府，分別是：秦州、成州、渭州、蘭州、臨州、河州、武州、洮州、廓州、疊州、宕州、涼州、甘州、瓜州、伊州、沙州、西州、安西都護府、北庭都護府。
隴右道管轄的范圍包括整個西域（今新疆及外西北）、甘肅省、寧夏回族自治區、陜西西部、青海北部及東部，治所在鄯州(今青海樂都)。
唐朝實行道、州（府）、郡、縣的四級行政區，道為一級行政區，州為二級行政區，隴右道下轄涼州，涼州下轄武威郡，涼州的治所仍然在姑臧縣，與兩漢差不多，只是行政級別降了一級，唐玄宗時期，把涼州改為武威郡，唐肅宗時期，又把武威郡改為涼州，唐德宗時期，涼州被吐蕃占領，脫離唐朝控制，吐蕃人設置西涼府，直到唐朝張義潮率領11州回歸唐朝。
北宋時期，在河西設置西涼府，管轄姑臧等5縣，但很快被西夏攻占，西夏在武威設置西涼府，元朝時期，在河西設置甘肅行省，下轄永昌路等六路，永昌路下轄西涼州，明朝時期，在河西設置甘州衛（今甘肅張掖）和莊浪衛（今甘肅永登）。
清朝時期，在河西設置西寧道，下轄涼州衛，康熙時期，改西寧道為涼莊道，雍正時期，改涼州衛為武威縣，并設置涼州府，治所為武威縣，乾隆時期，又把涼莊道改為甘涼道，治所在武威縣，涼州府屬甘涼道，武威縣屬涼州府。
民國時期，道直管縣，武威縣屬甘涼道，甘涼道的治所在武威縣，1985年成立縣級武威市，2001年武威市由縣級升級為地級，原武威縣被改稱涼州區。
從漢朝到清朝，武威都屬于涼州，涼州是武威的上一級行政區，而武威一直是涼州的治所，從民國時期開始，涼州二字不再是行政區域的名字，直到武威市成為地級市后，才把原武威縣改為現武威市的一個區，也就是涼州區，等于是倒了過來，涼州成為武威的一個行政區域，不過涼州與武威這兩個名字總算流傳了下來。
