中山公园占地面积约20万平方米，全园可分为大小不等的景点约120余处。这些景点因景而异，各具特色，其中银门叠翠等十二处景点评选为“中山公园十二景观”，都是公园内特色突出并具有代表性的园林景观。
经统计，公园有大小不等的景点100余处。这些景观因景而异，内涵丰富，有的独立成景，有的则可以涵盖多个景点。2001年，为丰富公园景观文化，公园组织了一次景观评比，结果其中十二处景点被评选为“公园十二景观”。这“十二景观”都是园林文化特点突出，并且是具有代表性的公园特色景观。
公园南门建于民国6年（1917年），因临近交通便利的白利南路和愚园路，一直是公园主园门。2001年因地铁二号线建设需要，园门内移进百米，并建成由著名建筑设计师邢同和设计的架空式弧形园门。门外园地改建为总面积1.6万平方米的开放式广场绿地，保留原有香樟林，设置放射型园道以及集会小广场、大型树坛、大型景观石等，使开放式广场绿地既保留了原有的英式园林风貌，又显示了现代园林艺术的实用功能，与长宁路商业中心的现代化都市景观融为一体。
即牡丹园。中山公园所在的长宁区原来属于法华镇，自南宋初年起由避难而来的洛阳花工栽培牡丹，到明代即以“法华牡丹”驰誉江南，清代又以法华镇“溪八咏”之一的“殿春花墅（殿春为牡丹别名）”风靡沪上。中山公园牡丹园辟建于1956年，是上海解放后早建成的牡丹观赏园地。1996年扩建后占地面积约4000平方米，以盆景式树坛为中心，包括大小15座花坛，共有牡丹花30多个品种。园内深处是绿树围护的牡丹亭，牡丹夹道而立，含苞怒放，各展风姿，园道两侧则绿草如茵，映衬得号称“花中之王”的牡丹格外富贵。园内除种植牡丹外，还配植芍药、贴梗海棠、山茶花、杜鹃等数十种花灌木，花色各异，疏密相间，形成特色鲜明的庭园景色，大有昔日“殿春花墅”的古风遗韵。
陈家池原是清水浜的一段河道，以河畔有陈姓居民而得名。并入公园后，改建为园湖，水面约6500平方米，中有湖心岛，西面为游船码头，北面有穿廊水榭，沿岸绿柳轻飘，青竹弄影，水面宽阔，景色清新。
即大草坪。公园内分布有大小六处草坪，其中占地面积达8000平方米的东草坪区，是公园大的一处草坪。它的北面是典雅端庄的大理石亭景区，南面是陈家池，东面是樱花林，西面则隔公园主园道与西草坪区相望。这里视野开阔，绿茵绵延，空间环境良好，周围有夹竹桃林、香樟林、广玉兰林、香榧林、雪松林、竹林、银杏林等团团围绕，景观轮廓优美。
即月季园。月季是公园的特色花卉，原来在园内散植。民国5年（1916年）为方便游客观赏月季，始建月季园，有165个月季品种，成为上海著名的月季培育园地。1956年将月季园扩建为规则式和不规则式两处园地，占地面积880平方米，栽种月季1400余株。2001年再次扩建月季园，使园地面积扩展到3300平方米，品种增加到300多个2000余株。每逢月季花期，月季园中一片姹紫嫣红迎风盛开的月季花千姿百态，润色秀美，芳香馥郁，引人入胜。
即鸳鸯湖。1956年，地处公园西部的原长宁区妇婴医院有面积约2700平方米的荒芜空地，由公园借用作苗圃。1958年7月，经市有关部门批准，征用这块空地扩建公园。公园随即动员职工以人力挖湖筑山，挖成大小两个湖池，又植树造林，围砌湖岸，形成“凹处聚水凸为山”的鸳鸯湖景区。景区占地面积1.82万平方米，湖池南面为绵延起伏的土山，长约150米，最高处6米，山上小径盘绕，树木密布，湖池北岸有一座石亭，名为“春在亭”，亭后是规则式月季园。临湖而望，碧水清澈，山林倒映，花木葱郁，景色清新。
即荷花池。原为清水浜河道，民国26年（1937年）堆造西山坡时，形成荷花池塘，成为公园主要景观之一。池塘呈月牙形，以石料围筑，面积约900平方米。荷花池背靠西山坡，面对西草坪，绿化设置富有特点。西山坡沿园界呈南北走向，长约50余米，高8米，东面坡势呈平缓落差，以各色乔灌花木围成扇面形状，中间是以黄杨修饰的“中山公园”四个造型大字，每字约5平方米，字体规则方正，十分醒目。西草坪面积为6000平方米，以主园道的悬铃木为界，景区内视界开阔，布局舒展，别具情趣。
即山水园。原植物标本园的一部分。民国36年（1947年）上海市工务局扩建植物园，从市区各公园、苗圃以及东南各省移植树木共159种。解放后，进一步补充和丰富植物品种，使植物标本达到400余种，成为上海市植物种类多的公园。自20世纪80年代起，公园对植物园进行调整、改建，利用原有的小河浜围砌湖石驳岸，依自然风格构筑园林小品，有太湖石、小石桥、花架穿廊、山地竹亭、高山跌水、荷池水湾、石罅洞天诸景。园景高低错落，精巧自然，园道曲折幽深，起伏迂回，如入迷宫。园内绿树众多，尤其是被列为上海市古树名木之一的大刺楸树，为公园增色不少。
即大悬铃木。位置在公园西北角，据工部局民国23年（1934年）年报载：这株悬铃木来自意大利，是同治五年（1866年）来自意大利的亨利爵士（Thomas Hanbury）赠送给霍格的礼物，霍格随即种植在兆丰花园内。这株悬铃木经历了130多年的沧桑岁月，胸围已有5米，高约30米，冠幅达31米，树干粗短巨大，苍然未老，巍然屹立，展现出百年大树所特有的形体神态。
即大理石亭。大理石亭是民国24年（1935年）从别地迁建而来的，为此搬走了建于民国5年的中国式凉亭。出资建亭的并不是主管公园的租界工部局，而是一位名叫“爱斯拉夫人”（Mrs Edward Ezra）的外侨。大理石亭呈长方形，长18米，宽5米，高4米，其中平台部分长15米。下有6层台阶，亭顶为棚架，紫藤缠绕其上，整体造型具有古罗马廊柱式花园建筑的特征，以平台为中心，集亭柱、石壁、花盆、栏杆、石阶、石像雕塑等于一体，与周围景色相融洽，是一座典型的西洋古典主义园林建筑，具有很高的艺术观赏价值。“文化大革命”中大理石亭遭到破坏，石像雕塑和栏杆、花盆被打碎，用于建造游泳池。尽管如此，在历代园工的悉心保护下，大理石亭仍然保持着原有风貌。1999年大理石亭被列为“上海市近代建筑保护单位”。2002年对大理石亭景区进行改建，亭前广场铺设大理石地坪，以园道悬铃木和大石球相隔，梳理亭后树木，仍以龙柏树为屏障，丰富了景区空间层次，展现出浓郁的欧陆古典主义园林情调。
即大石桥。虹桥于1959年9月建成，是连接东部主园道的花岗岩大石桥，桥高4米，长20米，跨陈家池水面。桥东为香樟林，桥西为游园广场，桥北是湖心岛，桥南隔陈家池与东泥山景区相望。最佳观景点在东泥山平台，可居高临下观览景区全貌。
公交线路：13、20、54、67、88、96、316（夜宵线）、330（夜宵线）、519、737、765、776、825、921、941、946、947路公交车在中山公园站下车。
地铁线路：轨道交通2、3、4号线可到达。
鸦片战争前，园址一带均为农田、坟地，仅在今华东政法学院以东的吴淞江边有一个名为吴家宅的村落。
清咸丰十年至同治元年（1860～1862年），英租界当局以防备太平军进攻租界为名，越界强行辟筑极司非而路（今万航渡路）。当时任英租界防务委员会主席的英国人霍锦士·霍格（JamesHogg）及其兄弟也乘机以低价购买了吴家宅以西极司非而路两旁的大片土地，不久又在路南修建了一个占地70亩（4.67万平方米）的乡间别墅。霍格兄弟是租界早期的大地产商。他们于咸丰四年（1854年）以前在花园路（今南京东路）开办了一家霍格兄弟公司（Hogg Brothers & co.），中文名称为兆丰洋行，因此，他们的别墅也习称兆丰花园。
民国3年（1914年）3月初，上海公共娱乐场基金会向公共租界工部局建议，原兆丰花园仍保留不少名贵树木，绿化面貌没有受到破坏，如果买下这片土地，只需稍加整理，就可以作为公园对侨民开放。在当月20日召开的公共租界纳税（外国）人年会上通过一项决议，批准买下这块土地作为新建的风景公园和植物园的核心部分。会后，工部局立即办好土地手续。因为没有重大的改建工程，所以在修建过程中也不阻止外国游人入内。同年7月1日，工部局颁布公园游园暂行规则四条，从此正式对外国人开放，但不准华人入内游览。经过上海人民的长期斗争，于民国17年6月1日该公园及动物园售票对华人开放。公园定名为极司非而公园（JessfieldPark），因为这里数十年来习称兆丰花园，所以在工部局内部以至报刊上极司非而公园和兆丰公园两个园名通用。另外，由于公园地近梵皇渡（原址位于公园西北面，今沪杭铁路二号桥东）故又称梵皇渡公园，民国33年6月改名为中山公园至今。
早期的公园位于今公园的北部，园门在极司非而路，也就是现在的北园门。从开园的第二年起，就陆续购买邻近土地，园界逐步向南和向西侧推移。民国6年公园向南扩展到白利南路（今长宁路），民国14年全园面积已有19.24万平方米。
民国7年，工部局在建造白利南路园门的同时，不得不在小河及小路之上建一座石拱桥，从那时起到抗日战争胜利后，这座桥一直是公园南北两部分的通道。民国37年，市工务局鉴于河道久已淤塞，污水横流，遂在河底铺设下水道后填没河道。
公园初期规划分三个区：一是富有乡村风味和野趣的自然风景园，由林地、草地、溪流和湖组成，是游人野餐和聚会的场所；二是植物园，拟尽量搜集原产于中国的各种乔灌木，使之成为大和有趣味的中国植物标本园；三是观赏游览园，包括宽广草坪、林荫大道、喷泉和雕塑、中国原产花卉园、小型动物园等。由于公园是在长达十多年的时间中逐步扩建的，规划中的分区界限已被突破，但是小景区仍基本上按原规划的要求进行建设。
民国3～6年公园的面积没有大的变化，施工的主要场所是在今公园的北部，先后铺设了大草坪，用6000立方米的土堆山，调整和种植了一些树木，并且辟建了一个有165个品种的月季园，因而吸引了不少外国人来游览和野餐。与此同时,在白利南路边购买了约10亩（6700平方米）土地辟建了一个儿童园，园内设置几架秋千及旋转秋千,以及跷跷板、沙池等游戏设施。儿童园门设在白利南路，到民国22年才将这道园门封闭，改由公园内进入儿童园。
民国7～9年，重点转向开辟新购买的南部地块，使之与园北的景色联成一体。横贯园南原有一条名为清水浜的河道，施工中将西段填塞，东段及一些池塘扩大为湖。在园南白利南路边新建园门，门内置大花坛，花坛的东北面辟日本园，西北面辟中国园，并在此两园之间铺设东西两片草坪，草坪旁植各种树木。将原有6间中式建筑，改建为茶室。
民国7年在公园内设一个很小的动物展览部，展出猴、羊、兔、猫头鹰、天鹅、隼和鸳鸯等动物。民国10年该园又购地2.94亩（1960平方米）辟建动物园，民国11年8月10日建成对外国人开放。展出的动物有熊、狼、狐狸、驴、羊、兔，还有几十只鸟禽，尽管动物品种数量不多，但毕竟是上海的第一个公立动物园，所以吸引了许多外国人，民国13年游人量为21337人次。动物园因为面积和经费所限，建成后一直没有大的改观。动物来源是部分购买，部分靠外国侨民赠送,到民国25年末，全园动物共104只。
民国13～14年重点是完善公园中部的景点。在此之前，中部的一片林地已作规划辟建为植物园。为改善景观，重新改建了这里的地形，将平地变为丘陵，并在南侧建人工瀑布。在这个不大的山地植物园里，种植了当时能够引进到的一百多种树木，成为当时全市树种多的公园。植物园之南有一片面积为4.03亩（2687平方米）的沼泽地，上面长满了芦苇，经过改造，成为园内大的一处水面。此外，还在园东北建造一座露天音乐演奏台，台是喇叭形，宽17米，进深8米。台前有2700平方米草地，可放置上千把移动式园椅，供欣赏音乐的游人使用。至此，公园各主要景点都已建成。
民国15～28年，园景曾有过两次局部的变化。民国24年，侨民爱斯拉夫人（Mrs.EdwardEzra）给公园赠建一只古典式大理石亭，它的阶、栏、台、柱、壁以及二尊西洋女神雕像等均以大理石制成。亭建在园中部原一只中国式凉亭的位置上，建成后就取代了原来的音乐演奏台。民国28年，为掩埋公共租界的垃圾，在园东南侧挖土1600立方米，然后倾倒垃圾1.2万吨，再用挖出来的土和疏浚湖池的400立方米塘泥覆盖，形成为一座带状土山。
在建园之初，工部局应公共租界园艺学会的请求，在公园东北划出一块土地作为园艺试验场，进行蔬菜、花卉引种、繁殖、栽培、植保的试验。约在民国19年，园艺试验场改为极司非而路苗圃，由工部局直接管理。此外，在园西北与动物园邻近处和园东南部曾有过两处兵营，建营时间是在民国16年初。当时，北伐的国民革命军逼近上海，英军匆忙增加在沪的兵力，并经工部局同意在公园建营房，两处营房各有4～5幢砖木结构平房，围以竹篱，并分别在极司非而路和白利南路设进出口，南营房于民国20年拆除，民国29年10月英军全部撤出上海，北营房也并入公园。
民国30年底日军侵占公共租界后，公园疏于管理，山地植物园部分树木死亡，树种急剧减少。民国35年，市工务局园场管理处除从各公园已有的树种中挑选以外，又从东南各省引进了200多种树木移植到园内。至民国36年10月，山地植物园面积增至90亩（6万平方米），树木为62科242种，上海解放前夕下降为177种。
解放后，在保留原有园林布局风格的基础上，市人民政府多次拨款对公园进行局部改建、增建。1951年建一座面积1669平方米的动物和植物标本陈列室，后改为展览馆。1989年7月展览馆因危房改建，1990年10月竣工,新馆面积为1560平方米，钢筋混凝土结构，主体单层、部分两层。馆前设置面积为105平方米的大花坛一只，面
积78平方米的棚架一座。1956年增辟了牡丹园、梅园、桃园、桂花林、腊梅林、棕榈林，增加了月季园、樱花林的品种和数量，从而丰富了公园的四时景色。树木园（租界时期称山地植物园）经过不断充实，树种从解放初的177种增加到260余种；在上海植物园建成以前，中山公园乃是上海树种多的观赏植物标本园。
到1990年，园内共新建混合结构凉亭3只，总面积68平方米。石亭1只，面积15平方米；竹结构凉亭2只，面积共72平方米；长廊2座，面积共115平方米；画廊2座，面积82平方米；棚架廊3座，面积共32平方米，还有钢筋混凝土桥2座。
园内的动物园新建了水族馆、海豹池等，展出动物的品种大大增加，计兽类25种、鸟类45种、爬虫类3种、鱼类104种。1962年，园内动物全部迁移到西郊公园（今上海动物园）。
1994年更新移植了1300余株树木，1996年全面改造牡丹园，1997年修复了大理石亭女神雕塑和牡丹亭。与此同时，公园分别于1995年和1997年为了长宁路拓宽工程和地铁二号线等城市建设项目的需要，两次共划出5300平方米园地。
2000年，为地铁二号线中山公园站绿地配套工程需要，公园再次划出16000平方米园地，辟建开放式广场绿地。
