嘉定山原名大山，绵延8座山头，主峰海拔112米。山形似塔，植被条件一般。因山上长期有草无林，习称“光头山”。据《史记》记载，嘉定山为明代“塔山墩堡”。清乾隆年间建村，为祈求兴旺发达改名达山，民国以后化为大山。1935年青岛工务局编制的《青岛大都市发展计划》，大山列为园林区，曾在山上种植大片树木。由于战乱山林遭砍伐。至建国前山上树木几乎光秃，水土流失严重。20世纪60年代，山下建成嘉定路，取名嘉定山。
建国后，20世纪50年代中期开始植树造林，遍植黑松、刺槐，植被条件有所改善。1984年，市政府决定封山植树建园。由铁道部四方机车车辆工厂与青岛化工设计院根据市园林局的规划方案设计；由铁道部四方机车车辆工厂、北海船厂、中国人民解放军四四〇六工厂、黄海水产研究所、山东省海水养殖研究所、市化工石油工业公司、市交通局与市环保局集资承建。同年3月开工，建亭子3个，花廊1个；老年人活动室、儿童活动室各1个；园门2座、厕所2个；雕塑1组、园林小景6处；修建车行道5645米，游览路3540米，花岗石台阶路1400级；安装石桌石凳40套，长条石凳20条；修建简易围墙2000米，总投资90.28万元，其中单位集资61.57万元，政府补助28.71万元（包括绿化用苗购置费15.3万元）。由青岛纺织工学院、化工学院义务植树2.8万株。1986年7月6日，经青岛市人民政府命名为“嘉定山公园”。同年11月建成开放。
2008年7月底，北京奥运会前夕，以“中国印·舞动的北京”为主题的大型山体奥运浮雕在嘉定山揭幕。该浮雕高25米，宽18米，6月29日开工，历时一个月，投资50余万元，依托山体自然风貌而建，碑文上雕刻着：“北京奥运青岛扬帆二零零八中华梦圆举国共庆万民同欢谨托铭刻志以永年”的字样，是青岛市较大“中国印”景观雕塑。该雕塑与山林自然景色浑然一体，周围还配有射灯，具有夜景观效果，立体性强，造型美观、新颖，视觉效果好，由于地势较高，从前海一线的信号山等高处就能看到这个“中国印”，成为嘉定山上又一亮丽风景。
