如果重新分封诸王，只会重演春秋战国时，各国互相攻伐的苦况，因此决定把天下分為三十六郡，直至秦亡為止，共置五十四郡，每郡都设置郡守（掌民政）、郡尉（掌军政）、郡监（掌监察），由中央朝廷委任，不得世袭，并须向朝廷匯报租税、户口及治安情况。（文學馆）
秦始皇决定在地方治理上採用三级行政区划制度，构建中央—郡—县—乡—亭—里—什—伍—户的纵向金字塔式的控制体系，以加强对地方的控制，主要在郡设郡守，郡下设县，县设县令，但秦代的国家行政机构只下设到县级。
县之下实行乡亭制（亦称乡里制度），设乡，具体办法是在乡级设三老掌教化，嗇夫听讼和徵税，游徼侦缉盗贼。
此外，乡级以下则利用民间力量来治理，一乡辖十亭，设亭长；一亭辖十里，设里魁（亦称里正）；一里辖百家，五家為伍，十家為什。这种制度為秦朝带来了巨大的动员能力，即使三百多年前的波斯居鲁士大帝创建帝国之时，阿契美尼德王朝唯有省（萨特拉庇）和县作為行政区划机构..。
除此之外，歷来盘踞在淮河流域的淮夷、泗夷早已变為民户，而秦始皇统一天下后，在今福建省一带地方设置闽中郡。
由於秦始皇认為闽中郡远离中原，是荒服之国，地处偏远，山高路险，而且越人强悍，难以统治，故实际上并未派遣官吏往闽中。只是废去当地酋长无诸及騶摇的王位，改用君长的名号让其继续统治该地。
郡县制在全国推行后，标誌著六国故地不会再有拥兵割据，自选官吏，财政独立的诸侯。此外，百姓的籍贯不再用以前所属的诸侯国，例如楚国人、齐国人等作為识别，而是用其所处的郡名以咨识别。
不过自秦灭汉兴后，汉高祖刘邦认為秦王室推行郡县制后。因缺乏宗室屏藩，过於孤立而亡，於是推行郡国制，大封刘氏宗室子弟為王，但却导致日后的吴楚七国之乱。因此歷代统治者都试图在郡县制至分封制之间。取得一定的平衡，以维持国祚。
為了防止六国遗民作乱，秦始皇下令收集天下的兵器，聚集到咸阳熔化，铸成大鐘及十二个铜人，每个铜人个重达二十四万斤，放置在宫廷里。
公元前215年（秦始皇三十二年）。秦始皇进行第二次巡游，途经碣石，宣布拆除原关东六国建造的城廓及堤防，称為坠城廓、决堤防、夷险阻。并在碣石山门刻石立碑，碑文内容如下：
“遂兴师旅，诛戮无道，為逆灭息。武殄暴逆。文復无罪，庶心咸服。惠论功劳。赏及牛马，恩肥土域。
皇帝奋威，德幷诸侯，初一泰平。堕坏城郭，决通川防，夷去险阻。地势既定，黎庶无繇，天下咸抚。
男乐其畴，女修其业，事各有序。惠被诸產，久并来田，莫不安所。羣臣诵烈，请刻此石，垂著仪矩。
译文：皇帝兴师用兵，诛灭无道之君，要把反叛平息。武力消灭暴徒，依法平反良民，民心全都归服。论功行赏眾臣，惠泽施及牛马，皇恩遍布全国。
皇帝振奋神威，以德兼并诸侯，天下统一太平。拆除关东旧城，挖通河川堤防，夷平各处险阻。地势既已平坦，眾民不服徭役，天下都得安抚。
男子欣喜耕作，女子修治女红，事事井然有序。皇恩覆盖百业，合力勤勉耕田，无不乐业安居。群臣敬颂伟业，敬请鐫刻此石，永留典范规矩。”─《史记秦始皇本纪》
至於拆除原关东六国所建造堤防，原因是為了消除地方割据，这是由於各国堤防的设计不合理。根据《孟子告子篇》的记载，魏国著名水利专家及商人白圭曾向孟子指，自己治理水患的水平胜过大禹，但孟子却不以為然，指责白圭只是将邻国当作蓄水的沟壑，即是将洪水引向别国，令百姓厌恶。
此外，据《汉书沟洫志》的记载，当时齐国和赵魏两国是以黄河為界，赵魏两国位处黄河上游，地势较高，齐国的地势低下，黄河泛滥时齐国所遭受的灾害就较严重，因而齐国首先沿著黄河建筑了一条离河二十五里的堤防，以防止黄河的泛滥。
自从齐国沿黄河筑了堤防，令黄河泛滥的水流冲向赵魏两国，於是赵魏两国也沿著黄河建筑了一条离河二十五里的堤防。从以上记载可见，战国诸侯都有利用水利设施，作為削弱敌国的手段，因此秦始皇才强调採取决通川防的措施。
坠城廓、决堤防、夷险阻等措施，除了防止六国遗民据险作乱外，还有方便交通，促进贸易的作用。
秦始皇自消灭六国后，便下令迁徙关东六国富豪十二万户入咸阳
