秦朝在中央確立了三公九卿制度，但是，只有中央政府機構(gòu)而無地方行政機構(gòu)，仍然無法建立強大而穩(wěn)固的統(tǒng)治。因此，秦國必須建立起與三公九卿相適應(yīng)的地方行政體制。在地方行政體制的建立上，對設(shè)立什么樣的地方行政模式，秦統(tǒng)治集團內(nèi)部曾進行過激烈的爭論。
公元前221年，秦剛剛完成了統(tǒng)一六國的歷史重任，以丞相王綰為首的大批秦朝官員都向始皇建議，在燕、齊、楚等新征服的地區(qū)分封皇子為諸侯王。他們的理由是：“諸侯初破，燕、齊、荊地遠，不置為王，無以填之。”這種主張，實際上是讓始皇沿用周代以來的封國建藩制度。但始皇另有想法，因此收到群臣的建議后，始皇下令在朝會上討論此事。
在朝會上，廷尉李斯力排眾議。他對始皇說：“周文王、周武王都是賢明的君王，所分封的大臣也都是親族和賢能之士，但幾百年下來，他們就和周天子的關(guān)系越來越疏遠，彼此關(guān)系也越來越生疏，最后竟到了相互攻伐、水火不容的境地，連周天子也無法制止?，F(xiàn)在，皇帝陛下英明神武，一統(tǒng)四海，不能再那樣做了。不如把全國都劃分為郡縣，派官員去治理，然后把皇子和大臣用厚祿養(yǎng)起來，這樣就便于管理他們了，就能達到‘天下無異意，則安寧之術(shù)也’的目的?！?/p>
李斯的主張，實際上是要求始皇廢除分封諸侯的制度，在全國范圍內(nèi)推行郡縣制。顯然，李斯的主張符合時代的要求，也契合了始皇的心意，有利于加強中央集權(quán)。最終，始皇表態(tài)支持李斯的建議，將全國分為三十六郡，這樣，秦國就在地方建立起了郡縣制。后來，隨著邊境的不斷開發(fā)和郡的調(diào)整，秦朝的郡增至四十多個。
秦朝是中國歷史上第一個在全國推行郡縣制的政權(quán)，但郡縣制并非其首創(chuàng)。
春秋時期已有郡、縣的設(shè)置，但當(dāng)時的縣是比郡高級的行政單位，且兩者并無統(tǒng)屬的關(guān)系。最初的郡可能是一種建于邊境地區(qū)的不穩(wěn)定建制，它的區(qū)域雖大，但地位卻比縣低一級?！蹲髠鳌愤@樣記載，晉國的趙簡子曾于公元前493年對他的軍隊宣布：“克敵者，上大夫受縣，下大夫受郡?！笨梢?，在春秋時期，縣的地位是比郡高的。
最初，縣和郡多設(shè)置在邊境地區(qū)，其官員也都是國君派遣的。例如，魏文侯就曾任命吳起為河西郡太守。魏武侯繼位后，吳起受到猜忌，就離開魏國到了楚國，在楚國的邊郡也擔(dān)任了太守，一年后才被任命為令尹主持變法。后來，為了便于兼并戰(zhàn)爭和抵御外敵的雙重需要，郡和縣基本上就成了地方上固定的政權(quán)，其最高長官有權(quán)應(yīng)對邊境的突發(fā)情況。
隨著各國的郡縣數(shù)量逐漸增多，漸漸有了建立一套上下從屬的管理機構(gòu)的需要，于是一些地區(qū)就形成了郡、縣兩級制的地方管理體系。
始皇接受李斯的建議后，郡縣制正式在全國推行開來。始皇在郡設(shè)立郡守，作為地方的最高行政長官，郡內(nèi)的所有政治、經(jīng)濟、文化事務(wù)皆由其管理?？な厥锹?lián)系中央和下屬縣的紐帶，他傳達中央指令給地方，并監(jiān)督地方的執(zhí)行狀況，還要將地方的各種情況上報中央，并提出相應(yīng)的對策，其作用和職責(zé)大致類似于今天的省長。
郡守是處理地方民政事務(wù)的最高長官。除了郡守外，秦朝還在地方設(shè)立了郡尉，負責(zé)地方的軍事事務(wù)并維持治安。上文曾說李信率領(lǐng)秦軍伐楚，被項燕殺得大敗而歸，損失了七名都尉。這七名都尉，據(jù)《資治通鑒》的說法就是地方上的七名郡尉。
秦人在設(shè)置諸多地方官員的同時，也設(shè)置了監(jiān)察地方官員的監(jiān)御史。監(jiān)御史是由御史大夫府直接派到地方的監(jiān)察官，不受地方領(lǐng)導(dǎo)，直接聽命于御史大夫，這樣中央就實現(xiàn)了對地方的直接監(jiān)督。監(jiān)御史是郡的最高監(jiān)官，有權(quán)監(jiān)督郡守及其下屬的行為并上報中央。但除監(jiān)察權(quán)外，監(jiān)御史還有其他的職責(zé)，如舉薦人才、興修水利、領(lǐng)兵作戰(zhàn)等，其中央直屬官員的身份，使他的職權(quán)廣泛且有眾多便宜行事之權(quán)。
例如，秦二世時劉邦起兵反秦，就是泗水監(jiān)率兵前去鎮(zhèn)壓。秦始皇開鑿靈渠也是由當(dāng)?shù)氐谋O(jiān)御史主持進行的。監(jiān)御史的職權(quán)雖然廣泛，但其主要的職責(zé)依舊是監(jiān)察地方官員的所作所為，防止郡守權(quán)勢過大。監(jiān)御史時常向中央?yún)R報地方的情況，使得中央對地方的情況了如指掌，這就加強了中央對地方的控制，達到了加強中央集權(quán)的目的。
郡的下一級單位就是縣，縣的最高長官有兩種，一種被稱為縣令，一種被稱為縣長。滿萬戶以上的縣設(shè)縣令，不滿萬戶的設(shè)縣長。秦代縣的面積大約方圓百里，在人口稠密的地區(qū)，不足百里也可以設(shè)縣，而在人口稀少的地區(qū)，縣的面積往往很大。
縣令或縣長是一縣之長，縣內(nèi)所有的大小事務(wù)都由其主持，包括民政、財政、交通、教育，等等。由于基層工作較為繁重，因此縣令、助長下設(shè)有縣丞和縣尉等官員來輔佐其工作。
縣丞是縣令、縣長的主要助手，其地位大致相當(dāng)于副縣長，除了幫助縣令、縣長處理政務(wù)外，縣丞還是地方倉庫和訴訟事務(wù)的主管。
縣尉是主管一縣的軍事和治安的官員。由于秦王朝具有軍事專制的特點，因此縣尉的任務(wù)就顯得十分繁重。一縣之內(nèi)的所有治安事宜、征發(fā)徭役、管理士卒等事，都要縣尉主持完成。此外，由于要負責(zé)治安，縣尉還要經(jīng)常上街巡查，防范不法之徒。
由于縣尉的任務(wù)十分繁重，因此縣尉往往不止一人。縣尉的設(shè)置依縣的大小而定，有時有一個，有時可能有二到四個。此外，為了分擔(dān)縣尉的工作壓力，縣尉也有自己的下屬官員，例如尉史、尉從佐，等等。
除了縣丞和縣尉外，秦朝的每個縣中都還有一大批屬吏。這些官員沒有品級，俸祿在百石以下，其中職權(quán)最大的被稱為主吏。這類官員的地位和待遇都較低，但卻是真正的基層官員。例如，蕭何就曾擔(dān)任沛縣主吏，協(xié)助縣令主持縣內(nèi)的各項工作。
像蕭何一樣的小吏，是秦朝最基層的國家公務(wù)員。但秦代最基層的政權(quán)組織并不是縣，縣以下還有鄉(xiāng)、亭、里。春秋時期，我國就有了較為完善的鄉(xiāng)里制度，當(dāng)時縣以下是里，里以下是伍。秦統(tǒng)一后，在全國推行了以縣統(tǒng)鄉(xiāng)，以鄉(xiāng)統(tǒng)里的地方基層制度，十里為一亭，十亭為一鄉(xiāng)。其中，亭是直屬于縣尉的的治安機關(guān)。其余的官員設(shè)置，都是民間依民俗自設(shè)的，并非國家規(guī)定，這些官員沒有行政職務(wù)，也沒有俸祿。
秦代鄉(xiāng)官主要有三老、有秩、嗇夫和游徼。三老是極其古老的一種地方設(shè)置，周代就已經(jīng)出現(xiàn)。三老不是國家正式官員，但他們普遍是地方上德高望重之人。秦法規(guī)定，三老可以直接向皇帝上書奏事，劉邦和項羽爭天下期間，作為地方三老的董公就提出了為義帝發(fā)喪、從政治上孤立項羽的對策，最終被劉邦采納。
三老是地方上的道德標(biāo)桿，一般不處理政務(wù)，鄉(xiāng)里的大多行政事務(wù)都是由嗇夫處理。此外，嗇夫還是負責(zé)征收賦稅和處理訴訟案件的主管官員。而游徼則是巡查地方治安、防備盜賊的負責(zé)人。
在鄉(xiāng)以下，又有亭和里。亭長的主要職責(zé)就是負責(zé)地方治安，同時做一些迎送等接待工作并負責(zé)地方衛(wèi)生，劉邦在起義前做的就是這項工作。亭以下是里，里以下還有更基層的組織，即什伍，商鞅變法時就有“令民為什伍”的法令出臺。里長和伍長沒有什么職責(zé)，主要就是做好地方教化，協(xié)助亭長搞好治安等。
可見，秦代建立的一整套制度不只影響了整個專制時代，至今我們依然能在農(nóng)村看到這種制度的影子。在文化傳統(tǒng)中，國人也習(xí)慣把家鄉(xiāng)稱為故里、鄉(xiāng)里，其中的“里”，正是源于此。
郡縣制雖然在全國范圍內(nèi)推行了，郡縣以下也推行了鄉(xiāng)長制，但秦帝國的首都作為一個特殊區(qū)域，卻沒有實行與其他地區(qū)一樣的郡縣制度。秦朝都城咸陽，是一個大概相當(dāng)于郡一級的行政單位，但咸陽并不設(shè)立郡守，而是設(shè)置了內(nèi)史進行管理。內(nèi)史是協(xié)助丞相處理政事的官員之一，一般都是由國君最信任的人擔(dān)任。秦朝設(shè)內(nèi)史為首都地區(qū)的最高地方行政官，管理咸陽及其周邊三十多個縣的各類事務(wù)。
郡縣制使秦國形成了中央、郡、縣、鄉(xiāng)一整套比較完整的系統(tǒng)化行政體系，廢除了奴隸主舊貴族時代的世襲特權(quán)，有利于形成中央對地方的控制和管理。而且，郡縣制施行后，郡守、縣令和縣長都由皇帝直接任免，不得世襲。這就打破了西周以來分封割據(jù)的弊端，中央可以通過考核和監(jiān)察加強對地方的管理。秦代郡守每年秋冬都要向中央報告一年的治理狀況，縣令、縣長也同樣要向郡里報告自己的工作情況。
同時，中央每年也在此時對郡守進行考核，有功者受賞，有過者受罰，郡守對縣令等下屬也要進行考核。這樣，分封制基本上被廢除了，中央有效地解除了地方諸侯王勢力對中央政權(quán)的潛在威脅，防止了地方勢力的割據(jù)分裂，有力地維護了國家統(tǒng)一。
秦朝創(chuàng)立的這套從中央到地方的統(tǒng)治方法，使各級各部門有明確的職責(zé)分工，它們既相互配合又相互制約，這就保證了各項權(quán)力的最高決定權(quán)最終都掌握在皇帝一人手里，確保了皇帝對天下施行專制統(tǒng)治。這套金字塔式統(tǒng)治機構(gòu)的建立，標(biāo)志著專制主義中央集權(quán)制度的正式確立，也標(biāo)志著官僚政治正式取代了貴族政治。此后，秦代的統(tǒng)治模式被歷代專制政權(quán)模仿和改進，成為中國專制時代所采取的主流統(tǒng)治方式。