在上古尤其是在兩周時代，大多數部落聯盟或者諸侯國們，推行的都是親族血緣關系的統治，就是由親族力量負責管理臣民，即所謂分封制，就是這種管理制度的集大成者。
而到春秋戰國時代，周天子的管控力量完全削弱，而親族們的血緣網絡隨著紛亂的戰爭，逐漸被新型的權力體系所替代，那些有著豐富作戰經驗和治國之才的卿大夫士子們，成為諸侯國君身邊的重要朝臣，這些人物因功而受封，成為地方上的長官，郡縣制度應運而生。
最早的縣制是起源于楚國，楚武王熊通攻滅權國而后，命權國國君為地方長官，降權國為縣。而權國國君不甘于此發動叛亂，遂為楚武王所滅，楚武王即將權國當年的公室家族徹底遷徙并拘禁起來，在權國地方重新選拔人才擔任縣令。而楚武王也可能不知道，自此而后周天子的親族分封體系逐漸瓦解，一個不依靠親血緣關系而世襲的新型的管理制度將影響后世千年。
隨著春秋戰國時代的來臨，戰爭不僅摧毀了國家體制，更是讓諸侯貴族們的王室貴族們日趨凋零，新占據或者開發的地區需要有著極強管控能力的人才能加以駕馭，腐朽的親族力量顯然無法滿足這樣的條件。
《左傳》：“克敵者，上大夫受縣，下大夫受郡”。為了加強管理而置縣，諸侯們直接任命的是那些不能世襲的官員，這些官員因為不能直接世襲，不會存在國君無法管控的情形。分散的權力集中到了國君的身上，一種叫中央的形式逐漸呈現，集權時代終于來到。
而最早的郡則出現在秦穆公時代的秦國，晉文公流浪秦國的時候就曾經說過“君實有郡縣”，就表現出對這種制度的欣賞。后來晉文公回歸晉國也自在晉國全面推廣這種制度。這里發現一個有趣的事情，郡縣制度這種先進的政治體制，并沒有在繁華的中原地區出現，而是出在了偏遠的西方秦國和南方的蠻楚。
這即說明在安逸的地區即便有著優勢的條件，如果不勵精圖治，也便會被后起之秀所超越，當年殷商王朝固守中原核心地區，而姬周家族興盛于黃河西部的高原地區，一路東進顛覆殷商。而后來的秦人也是自西部而來，歷經數百年耕耘終于統一六國。要守護這些來之不易的權力，任何諸侯國乃至秦人也都希望引用更為先進的制度。
戰國時代的郡大多設置在邊境，主要目的是為鞏固邊防力量，比如魏國曾經在西河地區設上郡以防止秦國。趙國設立雁門、代郡等主要為防御樓煩等北方族群，燕國設漁陽、遼西、遼東等郡則是為防御東胡，秦國攻滅義渠也設置了隴西北地兩個郡，目的是要防御戎族，儼然這個時代的諸侯國們都已經流行郡縣制度。
這種制度大多由諸侯國君直接分封，由那些相對忠誠于國君而又擁有一定能力的人物擔任，比如韓國就曾經在與秦國和趙國交界的上黨險要地區設立上黨郡，這個上黨郡遏制住秦國突進三晉地區的核心要帶，在戰國后期即成為秦國的主要攻打對象，并最終間接引發長平之戰。這些郡縣的長官即為太守，多由武官擔任，《韓非子》就有過“出軍命將”和“邊地任守”的說法。
很多貴族功臣們也大多希望諸侯分封郡縣以增加自己的實力，比如著名的春申君就有過“淮北地邊齊，其事急，請以為郡便”。這些地方郡守雖受到諸侯國君們的直系統領，但在地方上還是擁有絕對的權力，所謂“將上地”就是郡縣范圍內的兵卒百姓皆由這位郡守所管理，郡守之權力非常之大，可說是地方上的土皇帝。
當年秦國猛攻上黨郡時，韓國君主與秦國簽訂休戰協議，愿意把上黨郡獻給秦國后，上黨郡太守居然就帶著滿郡臣民投降趙國，可見郡守的話語權在地方上甚至遠超過諸侯。
商鞅在秦國變法時就力推設置郡縣，并在郡縣設置縣令、縣丞和縣尉，令即類似太守，是行政長官一把手，丞是掌管民事的，而尉則是主管軍事，這種制度基本成為后世國家行政管理體系的標準配置，即只有為縣令增加副手，但縣令的地方最高掌控權是再也沒有發生過改變的。
