公元1276年，元朝在毁于战火的金中都原址东北部，按《周礼》之原则建立了"状如棋盘"的大都城，并于1285年2月下诏给贵族功臣封地建房，以为第宅。于是，元朝的官僚、贵族们就按此规定，在大都城内盖起了住房及院落。这一间间房屋、一个个院落，一个挨一个盖起来，连起后就是一排排的，而一排与另一排之间要采光、通风，还得留出进出的通道，便形成了胡同、小街和大街。
据元代《析津志》记载："大都街制：自南以至于北，谓之经；自东至西，谓之纬。大街二十四步阔，小街十二步阔。三百八十四火巷，二十九衖通。衖通二字本方言。"当时的大都城是元世祖忽必烈的天下，这方言当然就是蒙语了，"衖通"即"水井"之义。有水井的地方才有人烟，才得以居住。且当时盛行的杂剧戏词中，也不止一次提到"胡同"，如关汉卿的《关大王独赴单刀会》中就有"直杀一个血胡同"；再如李好古的《沙门岛张生煮海》中说得更具体："你去兀那羊角市头砖塔胡同总铺门前来寻我。"可见北京的胡同是形成在元大都城的格局里。不过元大都当时仅记有29条胡同，因当时明确规定宽9.24米的才叫胡同，要是达到18米宽就叫小街，到36米宽就称为大街了。
元大都在建设时，规划者把"水"的作用提到了空前重要的位置，比如说都城的中轴线是傍水而划的，都城里的皇宫也是傍"海"而建的。所以其它的街、坊和居住小区，在设计和规划的时候，也都考虑了井的位置。或者先挖井后造屋，或者预先留出井的位置再规划院落的布局。无论哪种情况，都是"因井而成巷"。因此，元朝时期形成的老北京胡同成棋盘式格局，而且每条胡同都有井，都是依井而建。
元代北京的胡同间隔较宽，元大都基本上都是三进大四合院的距离。胡同为了宜于通行和采光，元代规划的城区胡同宽度约为9.24米，由于两旁房舍低矮，即使在冬季，只要是晴朗的日子，胡同里的阳光也会非常充足。
元代胡同的命名有以寺庙命名的、以衙署、官府机构命名的、以工地工场命名的，也有以府第、人名命名的和以市场命名的等等。但是，为数最多的，是以井命名的，光"井儿胡同"就曾经有过十个；加上大井、小井、东西南北前后井、干井、湿井、甜水井、苦水井......不下四五十个。这充分说明元朝胡同与井的密切关系。
现在我们看到的北京城，基本上保留了元大都整齐、对称、中轴分明的布局特点。当时的元大都，长方形的宫城位居中央，一条中轴线贯穿南北。左边是祭祀皇帝祖先的太庙、右边是祭祀土地和五谷之神的社稷坛（现在的劳动人民文化宫、中山公园分别是明清时的太庙、社稷坛），宫城前是各衙门，后面是交易市场；城内大街宽24步，小街宽12步，大城东西各三门，南三门，北两门，均匀对称。
北京这座被马可·波罗称为"世界上最美的城市"是谁设计的呢？北京城的总设计师是著名学者刘秉忠，但规划思想却来自儒家经典--公元前就已成书的《周礼·考工记》。书中说："匠人营国，方九里，旁三门，国中九经九纬，经涂九轨，左祖右社，前朝后市。"这种体现儒家追求秩序、皇权至上的设计思想，在我国很多古都都有表现，但这些杰作大多不可复睹，唯有北京完整保存了这种格局。
元大都的城市规制仍延用下来。至今，二环路内四方整齐的格局，宽窄有致的街道，都能令人对当年的完美设计赞叹不已。