青山寺位于嘉祥县城南8.2公里的林木葱茏的青山西侧，是以惠济公庙为主体的古建筑群，占地约6000平方米。惠济公庙原名焦王祠，据旧嘉祥县志记载：“武王克南，封神农之后于焦，世称焦王”。始封之焦在宏农陕县（今河南陕县），受封后移城于嘉祥青山东山脚下。现青山东有东、西焦城村，有古焦王城遗址。

焦王祠始建年代无考。据元东昌教授赵衡正《重修惠济公庙碑记》记载：“庙左有汉建宁元年（公元168年）碑，碑毁无考，右立晋永安颂，文字剥落难辨……”。1102年（宋崇宁元年）封焦王为宁应侯；1121年（宋宣和三年）改封为惠济公；次年，重修焦王祠，改称惠济公庙。后经明、清两代的多次重修、扩建，始具现存规模。因祠庙位于青山，故群众习惯上称之为青山寺。

青山寺坐东面西，顺应山势，层层递升，设计巧妙，别具一格。崇宇高阁，掩映于古树翠柏之中，景色颇为壮观。从山下望去，在中轴线上的建筑有6个层次，即：泰山行宫坊、三门、惠济公大殿、寝殿、泰山行宫、玉皇庙。在惠济公大殿两侧，还有白玉宫、享殿、子母殿、万佛阁、关帝庙迎客厅等附属建筑。

泰山行宫坊位于青山脚下，明朝世袭鲁肃王朱寿镛1638年（明崇祯十一年）修建，是一座仿楼阁式的三门石质建筑。中门内外两侧4个石狮雕刻精细，造型生动。门额外刻“泰山行宫”，内刻“云林胜槩”，运笔健劲有力。两侧门门额上皆雕有浮龙、麒麟等图像，刀法娴熟，惟妙惟肖。整个坊顶均仿木质建筑形式，石雕斗拱、歇山顶、鸱吻、瓦垄、瓦当……，特别是中门门额上面一组“明鲁王晋见焦王”的浮雕，主、宾、仆各具情态，栩栩如生。整个牌坊堪称一组格调和谐、技艺精湛的艺术品，有较高的艺术价值。从泰山行宫坊向东有一条山路，直通三门。三门是惠济公庙的大门，重修于公元990年（北宋淳化元年），为灰瓦硬山式建筑。中门三间，两侧甬门各一间。

惠济公大殿是青山寺的主体建筑，建于1米高的石台之上，1334年（元至正三年）、1389年（明洪武二十二年）两次大修。大殿面阔5间，南北长17.3米，东西宽6米，高约9米。五脊歇山顶，彩绘斗拱，绿瓦霞帔，巍峨壮观。前檐下4根高大石柱，通体平雕花卉。大殿内雕梁画栋、壁画附饰，高大朱漆雕龛中原有高达2.5米的惠济公金色塑像。大殿前有1929年修建的龙头碑一座。在碑前砌八角形玉液池，其外接圆直径3米，雕砌以石栏。

大殿后有山泉一眼，题名“感应泉”。泉水经殿底暗道，由碑底部之龙口中喷涌而出，常年不息，如珠似玉，纷纷泻入玉液池中，久雨不溢，常旱不涸，池水如碧，清澈见底。泉、池以殿相隔，如不留意观察，人们多不知泉由何来，池水何去。这一奇幻景致，既是天工，又是建造者的匠心独具。雕凿精致的龙头碑两侧，镌有一幅“山色霭霭人间胜地；水声潺潺世外洞天”的楹联；碑的北侧，刻有清末进士王俊卿题“青山十八乐”诗十八首。大殿两侧皆配以五间，连同三门，围成一个小院落。院虽不大，但曲雅秀丽，院内碑石婷婷，泉流潺潺；苍松遒劲，翠柏参天。奇景异致，吸引游人留连忘返。