Das ehemals viertorige, über 20 Meter hohe Gebäude, dessen vier Pfeiler ein Kreuzgewölbe trugen, wurde in der Regierungszeit des Kaisers Constantinus II (351-361) errichtet.
Die zwei mächtigen, mit einem Bogen verbundenen Pfeiler, sind das charakteristische Wahrzeichen von Petronell-Carnuntum. Die Zerstörung geschah größtenteils absichtlich, um Baumaterial zu gewinnen. Die ersten Renovierungen fanden 1840-1850 statt.
Im Jahr 1907 wurde das Heidentor von der NÖ Landesregierung übernommen und gründlich renoviert. In den Jahren 1998 - 2001 wurde dieses bekannteste Bauwerk Österreichs durch umfassende Sanierungs- und Konservierungsmaßnahmen gesichert. So bleibt das Denkmal römischer Kunst der Nachwelt erhalten.