平遥古城始建于公元前827年至公元前782年间的周宣王时期，为西周大将尹吉甫驻军于此而建。
春秋时属晋国，战国属赵国，秦置平陶县，汉置中都县，为宗亲代王的都城，北魏改名为平遥县。
明朝初年，为防御外族南扰，始建城墙。
洪武三年在旧墙基础上重筑扩修，并全面包砖，以后景泰、正德、嘉靖、隆庆和万历各代进行过十次的补修和修葺，更新城楼，增设敌台。
康熙四十三年因皇帝西巡路经平遥，而筑了四面大城楼，使城池更加壮观，平遥城墙总周长6163米，墙高约12米，把面积约2.25平方公里的平遥县城一隔为两个风格迥异的世界。
1997年12月3日，联合国教科文组织在意大利那不勒斯召开的世界遗产委员会21届大会决定将平遥古城整体列入《世界遗产名录》，它是研究中国政治、经济、文化、艺术和宗教发展的实物标本。
