一個國家的行政區劃要分成若干層級，每一層級有一定的管理幅度。一般而言，層級越多，上下阻隔越遠，政令不易貫徹，下情不易上達，中央政府也就越難進行有效的行政管理。因此，從集權的角度來看，要盡量減少行政層級，但受管理幅度的限制，層級也不能隨意減少。中國歷代行政層級的變換集中體現為中央集權與地方分權之間此消彼長的演變過程。秦到民國初年的行政層級大體經歷了四個循環周期：第一個階段是秦漢魏晉南北朝時期，歷時800年，行政層級從二級制變成三級制；第二階段是隋唐五代，歷時近400年，行政層級重復了從二級制變成三級制的循環；第三階段是宋遼金時期，歷時300多年，行政層級經過短暫的二級制又回復到三級制，再一次循環；第四個階段是元明清及民國初年，歷時650年，行政層級從多級制逐步簡化到三級制，以至短暫的二級制，這是一次倒循環。從中我們可以得出大致的判斷——中國到底需要多少行政層級，管理幅度在多少是適合的？
一、郡縣二級制向州郡縣三級制的轉化
秦始皇二十六年分天下為36郡，加上內史（首都周圍的特區），一共是37個郡級政區，后來增至49個。秦縣數目沒有文獻記載，推測總數在1000個左右。平均起來，每郡約統20來個縣。這樣的層級和管理幅度都是比較合理的。30多個一級政區的管理幅度不大，還可以繼續增加，50個左右也可以管理。
西漢建立以后，一級政區大量增加，至西漢末年郡國總數增至103個，共統轄1587個縣級政區，平均每個郡國的管理幅度為15個縣，也算適宜。但中央政府管理幅度卻過大。因此漢武帝在郡級政區之上設立了13個刺史部（又稱13州）加上首都附近的司隸校尉部，作為監察區。以上說明100個左右一級政區的管理幅度偏大，行政層級變為虛三級是其內在需要。
東漢末年，國家控制能力減弱，規模巨大的黃巾起義非各郡之力所能鎮壓，統治者將以監察區域形式存在的州變成郡以上的正式行政層級，監察刺史成為擁有兵權、財權和政權的州牧。虛三級制轉化為三級制。但是13州的一級政區管理幅度偏小，大行政區各自為政，乃至中央政府被顛覆。
魏晉南北朝實行的都是州郡縣的三級制。晉、南北朝意識到州太大，威脅中央權力，于是析置新州；后因戰亂，為應付越來越多的職務分配要求，政區分割越來越小，以致后來南北朝合計，共有220州，999郡。當北周統一北方后，三級政區數目之比更是惡化到1：2：6的最低水平，南北朝這種管理幅度過小的極度混亂的狀況，同樣是中央政府權力衰敗的象征。
二、州縣二級制向道州縣三級制的轉化
在中央集權尚未高度發達的時候，實行三級制及第一級政區幅員過大是釀成分裂割據的重要因素。因此，當中央統治者有足夠的整飭力量時，是要堅決恢復二級制的。
隋朝重新統一中國后，“罷天下諸郡”，使行政層級再次回到二級制，開始了中國政區層級變遷周期率的第二次循環。隋煬帝時，大量并省州縣，并仿漢制，改州為郡，全國有190郡，1255縣，一級政區管理幅度過大，二級政區管理幅度又偏小。隋末群雄并起，各州力量太小，自顧尚且不暇，就別指望100多個郡守能夠齊心勤王救駕了，于是楊家王朝迅速土崩瓦解。
唐朝初年仍實行二級制。隋末李唐勢力崛起，為招安各路起義者及隋朝地方殘余勢力，縮小州的地域將刺史官帽派發給歸順者，是籠絡懷柔加削弱地方實力派的“一石二鳥”之策，于是州的數目急速膨脹。天下大勢既定后，唐太宗開始大力并省，至貞觀十三年（公元639年）仍然還有358個州，縣則有1551個。約相當于今天去掉省這個行政層級，中央直接管理地級市，中央的管理幅度顯然太大，而州平均只管理四五個縣，幅度又太小。二級制面臨管理窘境，漢朝的監察區體制又在向唐太宗招手了。
有地方實力派奪取天下經歷的唐太宗，為避免監察區變成行政區，不按行政區劃設監察區，而是按基本交通路線分全國為10道，派遣監察官員。而酬躇滿志的唐玄宗在開元盛事的繁華中，忘卻了居安思危的古訓，正式定下全國15道的采訪使監察區體制。虛三級制一經“法定”，坐實就指日可待了。
安史之亂成為三級制出現的催化劑，作為戰時緊急措施、集軍政民政大權于一身的一級行政區——方鎮，平叛之后依然保留了下來，并保持在40－50之間，方鎮節度使兼道采訪使成為定制。唐后期的政區體制就成了道（方鎮）、州、縣三級制。行政層級的周期率完成了它的第二個循環，并在五代沿用。
三、州縣二級制向路州縣三級制的轉化
擁兵“政變”上臺的宋太祖牢記藩鎮割據、節度使擁兵自重的歷史教訓，通過杯酒釋兵權，將節度使的領地收歸中央。開國伊始，宋朝一時間又回到了州縣二級制，以二級制為開端的行政層級周期率第三次出現了。
但是，漢唐經驗表明，在一個幅員遼闊的國家施行二級制是很困難的，于是宋代統治者煞費苦心，形成了獨創性建國理論——即使當兒皇帝也比分裂割據江山易手什么皇帝也做不成實惠，因此以“寧媚番邦,不亡家奴”的心態開始了行政體制改革，800多年后慈禧太后也“借鑒”了這種理論。宋朝不在州以上設統一的層級機構和單一的行政首長，而是將一級政區——路的職權分給漕（財政）、憲（司法）、帥（治安邊防）、倉（民政）諸監司共擔，而且各監司的路還不盡一致，二級行政區州依然保留向中央政府的直接奏事權。因此，宋代的路、州、縣在行政區劃上是三級制，在行政權力上是虛三級制。
遼朝建國早于宋，因此政區制度仿唐，設道、州、縣；金朝主要領土取之于宋，因此師之于宋，設路、州、縣，都是三級制。
四、多級復合制向省縣二級制的簡化
蒙元征服的政權眾多、制度各異，在戰爭中一般臨時沿襲各個被征服政權的現成制度；但是蒙元南下征服過程長達七八十年，臨時措施也漸漸變成永久性制度。結果元朝行政層級簡單的只有兩級，最多的可達五級，大多數地區實行的是三級制和四級制。元朝行省制是軍人治政，行省按照犬牙交錯的原則進行區劃，打破自然地理單元，防止某一行政區自成一體、地方長官據險稱雄，從此以后各代果真未出現大的分裂割據局面。以元朝地域之廣袤，中央集權之強大，元中期一級政區只有11個，管理幅度顯然太小，而軍政大權的集中也是危險的；所以，元朝后期一方面削減行省權力，另一方面開始縮省，設立16個一級政區，二三四級政區分別為270、326、1127，每一層級的管理幅度都較小。但異族入主中原，“穩定壓倒一切”，每級行政首長都是蒙古人或色目人擔任，所以分層雖多，效率雖差，并不削弱控制力量。
元亡明興以后，開始減少行政層級，取消二級制和五級制，三級制和四級制并存，并學宋制，第一級政區的權力分由都指揮使司、布政使司和按察使司共擔。
清雍正年間又將明代復式的三四級政區層級簡化為單式的省、府、縣三級制。清代是統一的多民族大帝國，疆域遼闊，人口眾多，行政層級也只能簡化到三級。至清末，三級政區的數目分別為26、358、1191，管理幅度都不算大。后來，省以下還設了派出機構——巡道和守道，管理幅度進一步縮小。
民國初年，政區實行省、道、縣三級制，但道只是省縣之間的公文承轉機構，且每省只有3－5道，沒有實際的區劃意義，相當于是虛三級制。1913年，三級政區數目分別為30、97、1791。南京國民政府成立后，干脆取消道，實行省縣二級制。1947年，二級政區數目為48、2383。至此行政層級走過了由多級制到二級制的簡化歷程，只是這次是由繁到簡的反循環。
