Pada mulanya, gerbang ini asalnya bernama Chengtianmen (Cina Ringkas: 承天门; Cina Tradisional: 承天門; pinyin: Chéngtiānmén) atau "Gerbang Penerimaan Mandat Syurga", dimana ia telah dimusnahkan dan dibina semula beberapa kali. Bangunan asal mula dibina pada tahun 1420 yang berasaskan gerbang sebuah bangunan imperial di Nanjing. Gerbang di Nanjing itu bernama "Chengtianmen" yang akhirnya nama itu digunakan untuk gerbang Tiananmen ini. Gerbang ini musnah pada Julai 1457 kerana disambar kilat yang membawa kepada kebakaran. Pada 1465, Maharaja Chenghua menitahkan Zi Gui (自圭), Menteri Kejuruteraan untuk membina semula gerbang. Rekaannya turut diubah daripada bentuk paifang kepada rumah gerbang seperti yang kelihatan sekarang ini.