南山寺始建于盛唐时期，距今已有1200多年历史。明朝神宗皇帝赐高僧憨山大师金帑3000修葺寺院，又赐“海印”佛匾，光其门楣。两广总督戴耀也曾赠题“曹溪演法六祖之道”，南山寺因此声名远播。近代以来，由于种种原因，南山寺人迹凋零。为保护和弘扬佛教历史文化，满足十方信众朝礼受教的心愿，上级政府批准重建南山寺，南山寺得以重光祖庭、延续法脉。
2005年9月，南山寺动工重建。当时南山寺规划用地300亩、资金3亿元。将南山寺建成古色古香、气势庄严、具有明清江南宫廷建筑风格，融佛教人文历史文化，集法事、讲经、修行、教育、养生、自然景观、旅游休闲于一体的大型寺院是政府的目标。
2010年10月17日，大雄宝殿的落成暨佛像开光大典翻开了南山寺崭新的一页。至今，南山寺已建成大雄宝殿、天王殿、念佛堂、观音殿等殿堂，以及弥陀村（居士楼）、生命关怀园区等，建筑面积达3万平方米。万人念佛堂、文化长廊等也正在筹建中。
因住持释仁焕大和尚慈悲智慧，国内外众多信徒纷纷慕名前来，南山寺人间佛教事业得以稳步扩展。近几年，南山寺寺内灵气充盈，香火鼎盛，渐渐成为信众心中向往的离苦得乐的净土念佛道场，也成为粤西地区具有佛教文化代表的旅游圣地。1996年出版的《化州县志》载：“佛教传入化州时间无考，据光绪版《化州志》载，境内建成最早的佛教寺院是宋南山寺和报恩光孝寺，可见在一千多年前佛教已在本地传播。”据1997年出版的《茂名市志》载：“盛唐时，化州建有南山寺。”上述两志书对南山寺的建寺时间有出入，但都明确指出化州有佛教文化活动场所南山寺。据考，宋代化州南山寺的佛教文化活动鼎盛，不仅信徒香客多，连一些官员文人学士也常到访。著名的史学家、政治学家范祖禹就曾居住在南山寺。范祖禹（1040—1098），祖籍江苏吴县，英宗治平年间中进士甲科。因受司马光赏识，范祖禹曾参与《资治通鉴》的撰修、校订、出版等工作，历时15年之久。范祖禹历任著作郎、《神宗实录》检讨、侍讲、礼部侍郎、谏议大夫、瀚林学士等职，后追封为龙图阁学士。他为官刚直不阿，常犯颜直谏，因而得罪奸臣，被贬离京，流迁各地，元符元年（1098）徙迁化州，时任昭州别驾、化州安置。因累累谪迁，心力交瘁，范祖禹来化州后，便住进了幽静的南山寺。他与州地百姓及文人相处融洽。据说，范祖禹居南山寺期间，不仅研究佛学，还将中原文化向僧人和当地文化人传播。对化州橘红，他给予很高的评价。化州流传着“范公识橘”的故事。他爱上了南粤这方水土。他说：橘红气正，南山养性；三生有幸，终居胜境。据化州党史、文史研究专家陈土富考证：范祖禹病逝于城西狮子岭南山寺中。可见这佛门圣地南山寺，与一代文化名人范祖禹有缘。
据有关资料记载，明代著名高僧憨山禅师，受神宗皇帝御赐金币三千，于南山寺修葺道场，整顿僧规，开禅接众，随缘度化。神宗还御赐“海印”佛匾，光耀门楣。两广总督戴耀题赠：“曹溪演法六祖之道”。于是南山寺更为兴旺，名声远播。随着岁月的流逝，时代的变迁，南山寺在人间蒸发了。它毁于何时，已无从考究。
佛寺是佛教文化的重要载体。佛教场所、胜地，也是旅游文化的重要载体。为了落实宗教政策，弘扬佛教文化，增加旅游文化景点，化州市政府经上级有关部门批准，在2005年开始在该市丽岗镇丽山西麓重建南山寺。丽山，距化州市区十公里，因其主峰独尖，秀丽玉立，故又名尖岗岭。州志称丽山为“州之镇山”，又称“化州第一山”。丽山山上奇石、名胜古迹众多，林海松涛、花香鸟语，自然生态保护尚好。清道光年间状元林召棠曾登临丽山，手书“瞿鸟兆高飞”五字在石上。这刻石至今仍存在山上。丽山山腰还有纪念“中国巾帼英雄第一人”冼夫人的冼太夫人庙。丽山钟灵毓秀，选丽山的西麓建南山寺，实在是明智之举。据说，重建南山寺的发起人庞居士和南山寺现任主持释仁焕大师在选寺址时，从化州市区出发，一路驱车北行。当来到丽山西麓前面的一段乡道时，汽车突然熄火，司机弄了好一阵，仍无法启动。车上几人下来推车，只轻轻一推，车便启动了。由于汽车出现异常，司机掉头返回，仅行驶200米，车又熄火了。庞居士等人心有所悟，则下车沿着丽山西麓山腰踏行，豁然见到两块光亮的山石，状如绽放的莲花瓣；周围树木葱笼、鸟语花香；山前沃野千顷、清溪流泉；远处山脉像腾龙、气势非凡。好一处灵气宝地！于是他们决定把佛寺建在这里。奇怪的是，当他们坐上汽车回去时，车则顺利启动了。回到城区后，司机开车去修理厂请修车师傅查看，却没发现任何故障。这种情况尽管是一种巧合，也属于奇闻轶事。
重建的南山寺，用地300亩，预算耗资3亿元。所有耗费全凭善者仁人解囊捐资。南山寺初定计划用八年时间完成，分三期进行。按标准设计图，首期观音殿、四合院工程及天皇殿工程已竣工开光，呈现出古色古香、雄伟肃穆景象，吸引众多香客和游人。大雄宝殿工程正在筹建。还有三圣殿、祖师殿、藏经阁、罗汉楼、静修堂、弥陀村、海会塔、九龙壁等近20多个建筑物，得分批建造。整个工程竣工后，南山寺成为南国佛教文化的一颗璀璨明珠。
