蒙古包的形成经过一个漫长的历史阶段：猿人住天然山洞，古人改造利用现成山洞居住。到了今人时代，才会自己制造洞室，在地面挖一个地洞，沿洞壁用木头、石头之类诌甃起来，甃得快齐至洞沿，再在洞中栽一排木杆，上面搭一些横木封顶，就成了洞室乌尔斡。
洞顶要留一口子，靠口子斜支一根粗木通到洞底，上面刻一些简单的壕作为梯子，供人出入用。同时兼有走烟出气采光通风等多种功能，后来就发展为蒙古包的门和天窗。
随着原始人类由采集向狩猎过渡，活动范围越来越大，同时也把一部分食草动物逐渐驯成家畜，出现了畜牧业的雏形。这要求一种便于迁徙的居室，于是窝棚之类的建筑应运而生。窝棚再向前一步，支架变成哈那，并跟前面提到的洞顶结合在一起，便有了蒙古包的雏形。
