我國古代，自從國家形成以後，中央政府為了統治整個國土，就把整個國土劃分為若干政區，並採取某種組織形式，對這些政區進行統治和管理，這就產生了各級地方政權機構。歷代的政區和其政權機構並不是一成不變的，隨著社會經濟的發展（工農業生產、城市、交通道路等等）和地理的變化（河湖水系的變遷等），各地政區的範圍也不斷擴大、縮小、分離、合併，政權機構及其職能也因時而異，尤其是在改朝換代之後，這種變動往往更大。但總的看來，各代政區對前代的舊制是既有沿用、繼承，同時也不能不作某些適合於需要的改革，這在歷史上就稱為政區沿革。歷代政區沿革，是歷史的一個重要組成部分，它既和歷代社會經濟的展及地理形勢的變化有關，更和歷代政治的變化有關。
早在西元前二十一世紀，我國北方就出現了奴隸制國家夏朝。西元前十六世紀，商滅夏，建立了商朝。夏、商兩個王朝留下的資料太少，對那一國的政區劃分不甚瞭解。
西元前一○六六年，周武王滅商，統一了中國。周朝為了鞏固其地位，對全部國土採取了“封邦建國”的統治方式，除了“宗周”（指今西安地區）和“成周”（指今洛陽地區）外，把全國分封給了同姓子弟、異姓功臣和一些方國、部落的首領為諸侯。據說分封之初，共有八百多國。如：周武王胞弟周公姬旦之子伯禽封于魯國（今山東曲阜），武王另一胞弟康叔封于衛國（今河南淇縣）等等。諸侯雖奉周王為天子，但周王並不直接管理轄呼國的內政，各國的政、軍、財權都歸各國君主自行統理。春秋時期，周室衰微，諸侯強大，各自為政，不尊王室，周王徒擁虛名，並不能號令天下。
春秋時期，一些國內出現了縣的設制，《左傳》、《史記》，最早在兼併的土地上的設縣的是楚、秦兩大國，後來他國也逐漸設縣。當時設縣的地方出於三種情況：一是在兼併來的新領土地上設縣，一是把若干小邑合併為縣，一是在滅掉某貴族後即于其地設縣。凡縣皆由國君派官直接統治。
在縣制出現後不久，又出現了郡制，郡也歸國君直轄。早期的郡多設在各國的邊境地帶，如秦、楚、晉、齊等國，在其邊疆上多設有郡，例如秦滅義、昫衍諸戎，即於其地置北地郡（今甘肅慶陽專區，寧夏固原、銀川）。當時的郡、縣這間並無柰屬關係，雖然《逸周書．作雒解》記載：“縣有四郡”，《左傳》哀公二年記載：“克敵者，上大夫受縣，下大夫受郡”，但並非表示其有上下級別，而是說“郡遠而縣近，縣富而郡荒”，郡不及縣。戰國中期以後，趙有雲中、雁門、代郡，燕有上谷、漁陽、右北平、遼西、遼東等郡，魏有西河、上郡，秦有隴西北地郡等。這時郡已統縣，形成郡縣制度。
從歷史看，東周時期隨著各國經濟的發展，兼併鬥爭激烈，各國君主為了集權，都在不斷削弱貴族統治方式，大力推行郡縣制度，因之，政區在迅速變化。
在周代，除了上述政治區外，還有一種按山、川、物產等自然條件劃分地理區，稱為“州”（並非後來的行政州）。《尚書．禹貢》記載，禹治水後，分天下為九州，即冀（泛指今河北省）、兗（今魯北）、青（今魯東）、徐（今魯南、蘇北）、揚（今江蘇）、荊（今湖南、北）、豫（泛指今河南）、梁（今川、鄂）、雍（今陝、甘）九州。
《周禮．職方》也記天下之地分為九州，即揚（泛指今江、浙）、荊（今湖南、北）、豫（今河南）、青、兗（今山東）、雍（今陝、甘）、幽、冀（今河北）、並（今山西）九州。兩種記載略有差異，《周禮》較《禹貢》多幽、並二州，少徐、梁二州。九州之記，既反映了當時人的全國地理知識，也反映了當時人們的全國地理區劃方案。兩文於每州條下都記其名山、大川、物產、居民以及少數民族的會布。《禹貢》記有當時之水運網，《職方》則記有各州的農作物與家畜。儘管如此，九州乃是當時的地理區而非行政區，當然更沒有關於九州的行政機構。
西元前二二一年，秦統一中國，當時在政治制度問題上進行過一番討論。一種意見主張在邊遠地方封諸子為王，立國以鎮守；另一種意見主張廢除封建，實行郡縣制。秦始皇採納了後一種意見，分天下為三十六郡，後又增至四十郡。郡的長官稱“守”，主管行政，“尉”主管軍事，“監”是監察官員。郡下設縣，長官稱“令”。
郡的設置，既打破了戰國時七國的舊界，也不拘於九州之說，它是按照當地理形勢，和已形成的經濟中心，以及各地經濟聯繫等條件劃定的政區，因而可以說它是我國歷史上最早的、較為合乎地理的行政區劃。由於秦朝把全國劃分為郡、縣兩級政區，派官統治，從而才實現了中央集權制，真正達到了全國的統一。秦的四十郡，是後來漢代郡、國劃分的基礎，對後來歷代政區的劃分也有重大的影響。就此而論，秦人在我國歷史上貢獻是不可忽視的。
秦政權為時甚短，在完成了郡、縣制後十多年就滅亡了。西元前二○二年劉邦建立西漢，他認為秦之速亡在於一姓孤立，於是在國土統治政策上採取了郡縣與封國並行制，封子弟為九國，即燕、代、齊、趙、梁、楚、吳、淮南、淮陽等，以及異姓長沙王國。其餘各地則循秦制，仍為郡縣。郡長官稱“守”，後改稱太守，縣萬戶以上的長官稱“令”，萬戶以下的稱“長”。
其後，郡縣陸續增加，諸侯王國則不斷被削減。至西漢末，全國共分為郡、國一百零三，下轄縣、邑千三百一十四，道三十二，侯國二百四十一。按《漢書．百官公卿表》的說明，縣的一般面積為百里，“邑”是供奉皇后、公主的地區，有少數民族居住的地區稱“道”，侯國則是貴族、功臣封侯者的領地（不同于王國）。除此而外，對於邊疆少數民族來歸者，都安置在適宜地方，並特設“屬國”，以屬國都尉治理之，如天水郡勇士縣（今甘肅皋蘭縣東北）、安定郡三水縣（今甘肅固原北）、上郡龜茲縣（今內蒙伊克昭盟烏審旗）皆設有“屬國”。
漢朝在郡、縣兩級政區之上又設有州制。武帝為了分片監察各郡、國，參仿前代的九州之說，分全國為十三州（或稱部），每州由中央派遣刺史一員，按期巡察該州內各郡，檢舉不法，抑制豪強。十三州為冀、充、青、徐、揚、荊、豫、涼、益、幽、並、朔方、交趾，亦稱十三刺史部。國都附近的七郡則另設司隸校尉以監察之。西漢時期，刺史並無駐地，州也不是一級政區。到了東漢後期，刺史官名改為州牧，有了固定駐地，其職權則由巡察各州升為執掌全州大權，於是州就成了縣、郡之上的一級政權，州牧即為一州之長。
兩漢的政區制度是逐步完整起來的。東漢時，分為州（或刺史部）、郡（王國）、縣（邑、道、侯國）三級政區，其長官分別為州牧、郡守（王國相）和縣令（長、相）。兩漢的地方行政制度，比秦朝周密而完備，其對後世的影響也較秦為大。
漢對西域（今新疆）採取了另一種不同於郡縣制的政策。西域當時有三十六個綠洲小國，後增至五十多國，武帝時，西域各國臣服於漢。漢朝承認西域各國原有政權，並不派官直接干預其內政，只派西域都護駐在鳥壘（今新疆輪台縣東大野雲溝），以保護並監督西域諸國，兼調解其內部糾紛，這種允許屬國自治的政策創自漢代，其對後世的影響也是很大的。
魏、晉、南北朝時期，全國政區變動頻仍，但其制度則基本沿襲漢代，這裏不作介紹。
西元七世紀二十年代，唐朝初年即著手調整南北朝以來混亂的行政區劃。首先確立了州（也曾稱郡）、縣兩級行政區制，廢除了漢、晉分封諸國的制度。各州、縣皆按其地理形勢、面積、人口、物產等條件劃分等級，州分輔、雄、望、緊、上、中、下七等；縣分京、畿、望、緊、上、中、下八等。開元、天寶之際，郡（州、府）三百二十八，縣千五百七十三（《新唐書·地理志》），郡、縣總數比兩漢盛時有所增多。
在州（郡）、縣兩級政區之上，貞觀初年又按山、川地理形勢劃分全國為十道，即關內、河南、河東、河北、山南、隴右、淮南、江南、劍南、嶺南十道。當時十道只是地理區，並非政區。到了開元年間，由於南方經濟發展，地方富庶，又分山南道為山南東、西兩道，江南道也分為東、西兩道，並增劃出京畿、都畿、黔中三道，共為十五道。每道置採訪使（採訪處置史、觀察處置使），檢察道內的非法，如漢刺史之制，其採訪使各有固定駐地。這樣，在開元之後，“道”就成了州、縣之上的一級大行政區，唐的政區由原來的州、縣兩級進而成為道、州、縣三級。
開元年間，為了加重若干州的地位，又設有府制，以雍州（京師）為京兆府，洛州（東都）為河南府，並州（北都）為太原府。後來把陪都以及皇帝駐過的州城也都定為府，計共十個府，各府乃州之中的地位較高者，並非另一級政區。
唐朝對邊疆各民族地區，仿漢代都護之制，設置過幾處“都護府”，以管理該地區的邊防、軍事、民政事務，但也不直接干預各族內政。其重要且延續較長的有：安東都護府，統理東邊務，曾駐平壤；安北都護府，統理陰山以北邊務，駐地曾在和林（今蒙古人民共和國境內哈爾和林）、中受降城（今包頭附近）等地；單于都護府，統理陰山東北方邊務，多駐古雲中城（今內蒙托克托）；安西都護府，統理天山以南邊務，駐西州（今新疆吐魯番高昌故城）及龜茲（今庫車）；北庭都護府，統理天山以北邊務，駐庭州（今新疆吉木薩爾）；安南都護府，統理交州等地邊務，駐交州城（今越南河內）。這比起漢代只設一個西域都護（或長史）又有新的發展。
早在景雲年間（西元七一○～七一一年），在幽州（今北京地區）及涼州（今甘肅武威地區）就設了節度使，以總管幾個州的軍、政事務，其級別相當於當時各道的採訪使。到了天寶年間，邊境各地的節度使已增至九員，各轄數州之地。安史亂後，節度之設愈多，他們各據數州，控制管內政、軍、財權，專橫跋扈，世稱藩鎮。節度使之割據，並非唐代行政區劃的基本制度，這裏不作介紹。
總地看來，州、郡、縣或道、州、縣三乃是漢、唐的基本政區制度，對邊疆民族地區，許其自治而設立都護以監督其軍、政大事，也是漢，唐兩代都採用的政策。
宋朝建國以後，在政區和地方政權方面，仿用了唐代的政區制，改革了唐代的政權制，可謂是有沿有革。在政區方面採取了三級制，即劃全國為若干道，後改為“路”，路下一級為州、府、軍、監，再下一級為縣。宋鑒于唐末、五代藩鎮割據之弊，建國不久，首先收回了節度使的兵權，繼則在各道設置高級官員，稱“轉運使”，主管收集道內各州財賦，並通過水陸轉送中央，這樣就把各地方的財賦及其大權收歸了中央，進一步解除了藩鎮之患。轉運使的職權後來不斷擴大，財權之外兼掌資賊、刑訟、按察、邊防等權，各道大權悉歸其握，於是改道為路，路乃成為最高級的地方政區，按元豐年間（一○七八～一○八五年）統計，全國有二十四路。
路之下為府、州、軍、監。州之有重要城市者設府，如東京開封府，西京河南府（今洛陽）、南京應天府（今河南商丘）、北京大名府（今河北大名）等等。軍在五代時期是軍區，宋朝沿用其稱，但與州平級，下轄數縣。監是有礦冶的地區，也兼管縣，與州平級。元豐年間，全國有府、州、軍、監二百九十七，縣一千二百三十五。北宋盛時的版圖也遠遜漢、唐，今拒馬河一線以北屬遼，今陝北、甘、寧則屬西夏。因為國土面積小，所以縣數也少於漢、唐。
與宋朝同時，北方尚有遼、西夏、金等國，三國各有其政區及制度，因其制並未通行于全中國，這裏暫不介紹。
元統一中國後，劃分全國為十二個大政區，山東、西及河北之地謂之“腹裏”，直屬中央。其他各地分為十一個“行中書省”，為嶺北、遼陽、河南、陝西、四川、甘肅、雲南、江浙、江西、湖廣、征東等行中書省，是為第一級政區。行省作為政區名稱，起源較早，南北朝時期，在地方上就有過“行台省”的設置，意思是中央機構台、省的分設，各有轄區，實際上已是州、縣之上的一級政區。但其為時不久，且未成為定制。到了金代，已有陝西、河北、河東等行省的設置，但仍不是全國一致的政區制度。到了元朝才成為定制，成為最高一級的地方政區。因為元代中央機構有尚書省、中書省，所以大政區名也稱行尚書省、行中書省，簡稱為省。
元朝的政區是四級制，行省下有路、州（府）、縣三級。以腹裏為例，它不屬路二十九，路屬州九十一，州屬縣三百四十六。按《元史．地理志》記載，至元二十七年，全國有行中書省十一，路一百八十五，州三百五十九，縣一千一百二十七，軍四，安撫司十五。軍、軍撫司等是設在邊疆少數民族地區的行政機構。
明朝對元的行省製作了改革、調整。改行省之名為“承宣佈政使司”。除京師（今北京地區）及南京（今南京地區）稱直隸外，全國其他各地劃分為十三個“承宣佈政使司”，計有山東、山西、陝西、四川、雲南、貴州、廣西、廣東、福建、浙江、江西、湖廣、河南等。布政使司只理民政不管軍務。布政使司之下再劃分為府、州，相當於元代的路，府、州之下即為縣，所以明朝的政區是三級制。
同治年間，改臺灣及新疆為省。光緒初年，又將奉天、吉林、黑龍江改為省。迄於清末，全國共有二十三省。
省之下分為府、州，府、州之下為縣。所以清朝的政區基本上也是三級制。
對於邊疆各民族地區，採用了不同於內地的政治區劃及統理機構，其政策是：“因其教不易其俗，齊其政不易其宜”。對於內、外蒙古及青海蒙古族地區，根據八旗制度的組織原則，在蒙古原有社會制度的基礎上建立起盟旗制，進行了劃地分封。旗相當於內地的縣；盟為旗的會盟組織，合數旗而為盟，相當於內地的府、州。當時在內蒙有六盟、四十九旗，青海有二十九旗。在西藏則設“欽差駐藏辦事大臣”，以監督全藏的重大政務（軍隊、司法、外交、財權、達賴、班禪的繼位等項）。