夫馀国前期，龙潭山城为夫馀国的前期都城所在地。
高句丽王朝至广开土王时代（391年至412年），龙潭山城建造军事城堡。
2012年、2013年，吉林省文物考古研究所连续2年对龙潭山城开展了主动性考古发掘。
2014年，吉林省文物考古研究所、吉林省文物管理处、吉林市博物馆等对龙潭山城内南部大型台地进行了发掘。
龙潭山城整个山形呈不规则多边形，四周高，中间低，城垣借山势沿山脊用夯土或碎石构筑，高矮宽窄不一，高处达10米左右，矮处仅1米许，顶宽1-2米，基宽约10米，周长2396米。城的正南正北各有1门，东西南北四方突起处各有1瞭望台，一般长20-25米，宽6-9米。
龙潭山城内瞭望台上发现红色绳纹瓦，山城内有同时期建筑的“水牢”和“旱牢”遗址，附近有龙王庙、关帝庙、龙凤寺等古建筑。
2014年，吉林省文物考古研究所、吉林省文物管理处、吉林市博物馆等在龙潭山城内南部大型台地发掘出房址3座、台基式建筑5座，房址遗存有石砌火炕烟道、烟囱底座和墙基，烟道出土有“大定通宝”；台基式建筑出土了大量灰色、红褐色布纹板瓦和少量筒瓦残块以及脊兽残件。龙潭山城出土铁器以铁钉、铁镞、铁缸、铁镰、铁锅为主；铜器大都为铜钱，以北宋代年号钱为主；石器为柱础和石臼。
龙潭，位于龙潭山城西北角低处，又称“水牢”，是高句丽时代（另一说为辽金时代）戍守山城士兵利用山泉修建的备用贮水池，东西长52.8米，南北宽25.75米，深9.08米，四壁用整齐的长方形花岗岩石块砌筑而成，池壁从下至上向内递入，呈阶梯状，共分三阶。南壁从池沿向下约1米为直立岩壁，再往下则借山岩的倾斜面，用不规则的花岗岩块平铺，呈45度斜坡直达池底。北壁东端池有一砌泄水洞，洞内狭外宽，通向墙外，多出的池水由此溢出。池中的水，主要是由山上的雨水或雪水积成，也有少量地下水从池底渗出，故池水终年不竭，并保持稳定水位，通常蓄水近1万立方米。“龙潭映月”为吉林八景之一。
旱牢，位于龙潭山城内西南偶较高处，距“水牢”约420米处，是高句丽时代的建筑遗址，由花岗岩块垒砌，平面呈正圆形，直径16.6米，深2-3米，推断是储存军需物资的地窖。
龙潭山城内的“水牢”和“旱牢”，可能是储备军需物资的仓库，龙潭山城及山城内的“水牢”和“旱牢”是研究高句丽疆域和城池建筑的重要实物资料，对研究东北地区史前文明具有重要的学术价值。
1961年，龙潭山城被吉林省人民政府公布为省级重点文物保护单位。
2006年5月25日，龙潭山城被中华人民共和国国务院公布为第六批全国重点文物保护单位。
2016年，吉林市人民政府重点推进了龙潭山城遗址、帽儿山墓地文物保护旅游示范区建设，完成了《龙潭山城帽儿山墓地保护旅游示范区规划》。
关于龙潭的由来，流传着一段神话故事。传说在很久很久以前，龙潭山周围风调雨顺，五谷丰登，老百姓渔猎耕织，安居乐业。有一天，忽然天昏地暗，电闪雷鸣，从天上降下一条孽龙，落到山间水池中。从此，老百姓称水池为龙潭，山也被叫做龙潭山了。这条孽龙经常呼风唤雨，发大水祸害山下的老百姓。有一年孽龙又发大水，淹没了山下的庄稼和房屋，老百姓四处逃命。一个叫林小妹的女孩也被洪水冲走，其父林翁拼命追赶，好不容易游到女儿身边。正要救起女儿，忽然一只受伤的燕子掉在林翁面前，林翁先救了燕子，再看女儿却不见了踪影。林翁及老伴失去独生女儿，痛不欲生。这时被救的燕子突然开口说话了，她安慰了老两口一番，并认林翁夫妇为父母。因燕子生长在龙潭，大家都亲切地称她为龙潭燕。为除孽龙报达林翁夫妇救命之恩，龙潭燕决意飞往南海仙山求师学艺。三年之后龙潭燕功成归来，率领众燕子打败了孽龙，从此龙潭山下的老百姓又过上了太平日子。
