中國有悠久的教育傳統。夏朝有序經、學堂、學堂等專門的官方教育機構。後來到了商朝，又增加了學和校教。周朝官學普遍采用夏商時期的校名，並進壹步完善了教育制度。夏商周時期的官學只是給貴族子弟上的。除了官學，春秋時期由於統治階級的削弱，學術下移，以孔子為代表的私學興起。
它使教育由“學在官”變為“學在民”，打破了貴族壟斷教育的局面。孔子的“傳教之地”雖然從教學設施和教學制度上看未必是壹所學校，但從其教育理念和內容上看，也算是壹所學校。無論政府還是私立學校，早期教育中“小學”和“大學”的區分沒有現在這麽嚴格，但還是有。
比如西周的貴族學校，針對不同年齡的學生，教授的內容是不壹樣的。對於剛入學的幼兒，有專門為他們設計的小學課程。具體內容是“六藝”，即“禮、樂、射、禦、書、數”。其重點是基礎素養教育、道德修養、情操陶冶和體育鍛煉；對於年齡較大的孩子，他們開始接受更高層次的教育。
在他的私塾裏，孔子也繼承了這種教學體系，先在小學部分講授“六藝”，再在“大學”部分以六經為學習內容，以期望學生通過學習道來擔負起拯救世界的重任。六經:《詩經》、《詩經》(即《尕書》)、《儀禮》、《易經》(即《周易》、《景悅》、《春秋》)。後來的學校繼承了這種早期的劃分方法，形成了“學”和“大學”兩級教育體系。
“孟雪”的名稱世代不壹，私塾有“四小”、“內小”、“孟關”等，相當於現在的小學教育。學完了，就是“大學”教育。壹般來說，古代的小學階段是指13歲之前的學生。這時候老師主要教他們讀書背誦，13歲以後給學生講解文章的意思，教他們寫字的方法。
對於人文學科來說，這種“小學”和“大學”教育的二分法是非常明智的。北宋文學家蘇轍說“早年讀書無解，晚年省事，妙哉”。另外，現在的“中學”教育雖然在古代沒有單獨抽出來，但也沒有跳過，而是包含在“大學”教育中。西漢時，漢武帝在中央設置國子監，屬國家高等學府，在地方設置學宮。
隋唐時期，學校辦學達到了古代的頂峰，學校的分類也更多了。難能可貴的是，唐代建立的“書院”在宋代達到頂峰，形成了氣勢磅礴的“六院”。六院:石鼓書院、應天府書院、嶽麓書院、白鹿洞書院、嵩陽書院、茅山書院。明清時期的學校形式基本上是從隋唐繼承而來的。其中，值得壹提的是地方或私立學校，即私塾，在城市和農村都非常普遍。
清末，隨著洋務運動的興起和向西方學習的浪潮，近代教育迅速發展。1902，學校成為壹種新的學校形態，新學校逐漸流行起來。新知革命後，當時的教育部再次公布學制，將“學堂”改稱“學堂”，壹直沿用至今。所以中國的教育很早就開始了，但直到民國時期，教育機構才被正式稱為“學校”。