泰山关帝庙位于泰山登山古盘道起始处西侧，属古建筑中的坛庙祠堂类，始建于明代，为第六批全国重点文物保护单位泰山古建筑群的一部分。
东院由山门、戏台、拜棚、东西配殿、崇宁殿、圣母殿组成。东院主体建筑崇宁殿为硬山式建筑，殿额为清乾隆十三年（1748）所题“神威巨镇”，内祀关公，配祀为关平、周仓。殿东接一穿堂，穿堂两侧有东西厢房，过穿堂向北可直达后院。拾级而上，后院一进院落东侧有古柏一株，树干高仅0.8米，而直径达1.1米，相传为汉武帝手植。古柏茂盛的枝干探于东墙之外的古盘道上，在院墙外侧嵌有方碣，上题“汉柏第一”；后院西侧有围墙，围墙内竹林葱郁，围墙有一月亮门，可达西院。后院二进院落有殿室一座为圣母殿，内供奉泰山碧霞元君。
西院山西会馆，原为在泰安经商的山西人聚会之处，由正房，东西厢房、春秋楼、偃月松楼组成。偃月松楼下有古松一株，树冠亭亭如盖，姿态从容挺拔，名为“偃月松”。
关帝庙山门南有影壁一座，上 书-“神威巨镇”，门前石狮列峙。院内有明崇祯年间《张彝宪题登岱一律诗碑》、清康熙十年（1671）《扩建关帝庙戏楼记碑》、清康熙二十二年（1683）《始建关帝庙配殿记碑》、清咸丰九年（1859）《重修关帝庙钟鼓戏楼垣墙碑记》等碑碣共计23通。