早在五十萬年前的舊石器時(shí)代，中國原始人就已經(jīng)知道利用天然的洞穴作為棲身之所，北京、遼寧、貴州、廣東、湖北、浙江等地均發(fā)現(xiàn)有原始人居住過的崖洞。到了新石器時(shí)代，黃河中游的氏族部落，利用黃土層為墻壁，用木構(gòu)架、草泥建造半穴居住所，進(jìn)而發(fā)展為地面上的建筑，并形成聚落。長江流域，因潮濕多雨，常有水患獸害，因而發(fā)展為桿欄式建筑。對此，古代文獻(xiàn)中也多有「構(gòu)木為巢，以避群害」、「上者為巢，下者營窟」的記載。據(jù)考古發(fā)掘，約在距今六、七千年前，中國古代人已知使用榫卯構(gòu)筑木架房屋（如浙江余姚河姆渡遺址），黃河流域也發(fā)現(xiàn)有不少原始聚落（如西安半坡遺址、臨潼姜寨遺址）。這些聚落，居住區(qū)、墓葬區(qū)、制陶場，分區(qū)明確，布局有致。木構(gòu)架的形制已經(jīng)出現(xiàn)，房屋平面形式也因造做與功用不同而有圓形、方形、呂字形等。這是中國古建筑的草創(chuàng)階段。

西元前二十一世紀(jì)夏朝建立，標(biāo)志著原始社會(huì)結(jié)束，經(jīng)過夏、商、周三代，而春秋、戰(zhàn)國，在中國的大地上先后營建了許多都邑，夯土技術(shù)已廣泛使用于筑墻造臺(tái)。如河南偃師二里頭早商都城遺址，有長、寬均為百米的夯土臺(tái)，臺(tái)上建有八開間的殿堂，周圍以廊。此時(shí)木構(gòu)技術(shù)較之原始社會(huì)已有很大提高，已有斧、刀、鋸、鑿、鉆、鏟等加工木構(gòu)件的專用工具。木構(gòu)架和夯土技術(shù)均已經(jīng)形成，并取得了一定的進(jìn)步。西周興建了豐京、鎬京和洛陽的王城、成周；春秋、戰(zhàn)國的各諸侯國均各自營造了以宮室為中心的都城。這些都城均為夯土版筑，墻外周以城濠，辟有高大的城門。宮殿布置在城內(nèi)，建在夯土臺(tái)之上，木構(gòu)架已成為主要的結(jié)構(gòu)方式，屋頂已開始使用陶瓦，而且木構(gòu)架上飾用彩繪。這標(biāo)志著中國古代建筑已經(jīng)具備了雛形，不論夯土技術(shù)、木構(gòu)技術(shù)還是建筑的立面造型、平面布局，以及建筑材料的制造與運(yùn)用，色彩、裝飾的使用，都達(dá)到了雛形階段。這是中國古建筑以后歷代發(fā)展的基礎(chǔ)。