上海南站的建筑设计方为法国AREP公司，从外观看上海南站好似一个飞碟，主站屋设计为巨大圆形钢结构，高47米，圆顶直径270米，建筑整体结构总面积达5万多平方米。截至2006年7月，上海南站主站房和车站南北广场占地60.3公顷，东起柳州路，西至老沪闵路，北靠沪闵路，南抵石龙路。其中，北广场12.9公顷、南广场12公顷、南站客运车场13.8公顷、居住小区用地13.6公顷、周边道路8公顷。上海南站大的建筑特点就是地面建筑少，三分之二的建筑面积在地下，为绿化腾出了空间。上海南站绿化面积总共达到了8.5公顷，绿化率达32%。
上海南站主站房为南北贯通、高进低出、高架候车，南来北往的火车可从主体建筑的架空部分穿行而过，意寓“车轮滚滚，与时俱进”。南北广场平面设计为园林绿地和旅游集散地，南北广场地下设计二层商铺、道路和停车场。车站
上海南站分为主站屋和车站南北广场。主站屋分为三层，中层与地面同高，为站台层，并设通道与南北广场相连，还设有贵宾候车室、车站公安派出所等；上层为出发层，设有周长为800米的高架环形出发平台、可同时容纳一万余人候车的大空间候车区、检票通道等，出租车也允许直接开至出发层；下层为到达层，设有旅客出站地道、南北地下换乘大厅、上海轨道交通1号线、上海轨道交通3号线、部分长途客运和旅游专线等，在站内实现换乘。
上海南站是上海中心城市的南大门，也是联系长江、珠江三角洲及中国南方其他城市包括港澳地区的重要交通枢纽。南站及周边地区以其独特的地利条件和投资优势，与徐家汇城市副中心功能互补的经济中心。
二十世纪九十年代初，上海市已经有上海南站的建设计划，当时称“上海第二客站”。
1996年11月，上海市人民政府、原中华人民共和国铁道部提出铁路上海南站的规划建设要按“统一规划、一次动迁、同步实施、逐步完善”的原则。
1997年2月，根据原中华人民共和国铁道部计划安排，铁四院完成了《上海铁路枢纽漕河泾第二客站及相关工程方案研究报告》。同年5月，又完成《上海第二客站（漕河泾）及相关扩大工程初步设计报告》。
1998年3月，规模为3台7线的上海南站应急工程启动。
1999年底，上海南站应急工程正式投入运营，部分经原沪杭铁路南下的列车转到临时的上海南站到发，解决了上海站运力不足的问题。
2001年11月，法国AREP设计公司公司和上海现代集团华东建筑设计研究院有限公司联合中标上海南站站房设计工程。
2002年4月9日，上海南站工程建设指挥部成立，标志上海南站交通枢纽工程展开。
2002年10月21日，因施工需要，原来在临时上海南站到发的旅客列车转到梅陇站办理客运。
2006年6月19日，上海南站经上海市政府和原铁道部验收，同月20日售票处开窗售票。
2006年6月25日，上海南站开始试运营。同时，梅陇站停止办理客运业务并关闭。
2006年7月1日，上海南站正式运营。
2007年1月28日，上海南站开出中国铁路首班和谐号动车组列车N521次列车。
2010年10月26日，沪杭高速铁路开通运营后，原先上海南站开行的D字头列车全部转移至上海虹桥站开行，上海南站不再开行D字头列车。
2012年9月28日，城际化改造完成的金山铁路投入运营，上海南站开行前往金山卫站的C字头动车组列车。
自助购票
2010年12月1日起，旅客可在上海南站使用自助售票机购票，10台自助售票机位于上海南站2F层第一售票处旁，其中3台专售沪宁、沪杭高铁车票。上海南站的自助售票处开放时间为每日07:30-19:30。
便民设施
上海南站的南北入口都分设一个“公安制证点”，为进站受阻的旅客确认身份，办理临时通行证明。
上海南站的商业设施集中在主站屋两侧的地下两层空间内。商业设施除了传统的商业零售业以外，还有现代服务业，比如时尚产业、信息媒体产业、现代文化娱乐设施等。
客运流量
2013年1月24日，上海南站发送旅客4.52万人次。
2018年2月13日，上海南站发送旅客6.2万人次。
