观音山是山寺的代表，座落在蜀岗最高的东峰，是扬州的自然制高点。
构寺者在山顶随山势筑殿，山上古树蔽日、红墙高耸、山庙一体，建筑都与平原寺严谨的对称构造不同，楼殿参差，曲折幽深，继承了隋炀帝在此所建迷楼的风格。
寺院里辟有紫竹林，漫步其间，清爽异常。观音山寺的佛像不同于一般寺院以“释迦牟尼”为主像，而以“菩萨”为主佛像，其中又突出观音菩萨，面容慈善、秀丽妩媚、温柔娴静、已世俗化。观音山的香市极盛，特别是阴历二月十九日的观音诞日。
现寺内还供有缅甸仰光市政府赠送的玉佛。山顶池塘称“天池”。此山被誉为“第一灵山”。