金台寺是六祖惠能闻经悟道的地方。这座千年古刹建于公元650年以前，原址在新兴县城南外村坛背（今新兴县人民医院内），历史悠久，佛缘深远，是新兴县较早兴建的寺庙之一。如今矗立人前的金台寺，是2000年初由新兴的佛教信众出资重建，位置在南外村狮子岗山上，距离原址约200米远。
金台寺经历了一千多年的沧海桑田，其间多次重建和修缮。明嘉靖年间（1522～1566年），金台寺僧人在原址上重新建起金刚殿、三宝殿、六祖殿，三大殿均坐西向东，并修筑了围墙和寺门。隆庆年间（1567～1572年），金台寺庙宇崩毁，被豪绅强占改为果园。直至万历二十四年（1596年），当地乡民才捐资重建金台寺。此次重建后，金台寺的面积有所扩大，为“东西各三十六弓，南北各三十五弓；又寺前东二十弓、西二十二弓，南北连铺地各三十一弓”（1弓为5尺）。据清代新兴知县刘芳所编《新兴县志》记载，金台寺古已有之，到明万历年间重建，原来寺院规模、田产都不算大。到清代有所扩建，乾隆年间南外村人李豫从云南卸任回乡，对南城外的金台寺加以修缮。晚清时期，清王朝衰落，昔日香火鼎盛的金台寺也日益门庭冷落，庙宇残破，悉数崩毁。1901年，钦点御前花翎侍卫陈光燕从京城回乡，曾寄居于金台寺，给这一古刹留下了最后的辉煌记忆。民国二十年（1931年），时任泽区长的梁翰昭拆除城墙扩阔新兴县城，将县公署从今中山公园处搬到金台寺。
新中国成立后，金台寺先后为新兴县委、县政府的机关驻地及南街小学。1964年，改为新兴县人民医院。自此，这座新兴古寺便踪迹难觅，仅剩下一口弥足珍贵的水井，将关于原金台寺的记忆铭刻在新兴人的脑海中。上个世纪30年代，陈光燕的次子、民国期间广东著名画家陈耀宸，曾创作《六祖金台听经图》以传后世。画中的金台寺就是根据他少年时期随父寓居金台寺的印象所绘。这幅画也成为新兴现存对原金台寺较有价值的研究资料之一。
