截至2010年5月，上海站广场面积总计为97000平方米，站房主楼采用“高架候车”，同时设置南北进出口和南北两个广场。其中南广场约67000平方米，行人、车辆及停车场面积分别为21100平方米、20250平方米和25650平方米。北广场为30000平方米，行人、车辆及停车场面积分别为10000平方米、7200平方米和12800平方米。
南广场前四条放射性支路与天目西路和恒丰路相接，围绕广场形成三块用地，布置了一些大型建筑。广场基本呈对称布置，并有一个中心广场和左右两个辅助广场组成。通过东西出口厅钱的步行带向前延伸环抱呈蟹钳形中心停车场，中间布置的绿化岛与站房主楼大门相对，成为整的广场的中心。中心停车场主要停团体和单位客车，广场东西两翼结合两个行李房分别布置了出租汽车，运送行李的卡车和非机动车停车场，东边为托运行李房，西面为提取行李房，六条公交线路的终点站对称分散布置在东西出口厅的前方。中心广场前的民立路和长安路的路中心线相交于车站入口的中心，其所夹的区域内，在对直车站大楼进口和天目西路与恒丰路交叉口的轴线上，规划流出一定宽度的步行道，这样使站房主体建筑可以从三个不同方向一览无余。
北广场利用南北向的孔家木桥路和东西向的交通路作为车站进出的主要道路。商业服务型建筑布置在孔家木桥路两侧的街坊临广场和道路建造。广场出口厅的北侧和进口厅东西两翼，分别布置了出租汽车和其他机动车停车场，紧靠进出口厅设置了三条公共交通终点站，广场东西两端都设有非机动车停车处。
上海站的站厅采用由华东建筑设计院提出的“南北开口、高进低出、跨线候车”的方案。进入车站可以经由南北两个进站口进入，同时进站口以东另专设VIP候车入口，直通VIP候车室。而下车旅客，可通过地下通道，经由东南、西南、北出口共计三个出口出站。此外，80%的候车室位于月台上空。乘客经由南北进站口进入后，通过自动扶梯运送至二层中央走廊。中央走廊左右各分布5间候车室，旅客根据各候车室外电子屏显指示，进入相关候车大厅。左右两侧候车厅外侧再通过左右高架通道与各月台相连，缩短旅客上车时间，该结构迄今被众多中国的大型车站采用。
底层站厅则主要以团体候车室、软席候车室、进站大厅为主。2003年，港澳自由行开通后，为加快沪港直通车的运行时间，上海海关和中国边检站厅底层的第一候车室旁边设置进出境口岸，并由专门通道进入联检大厅。
此外，为避免购票人群与进出站人群的对冲，上海站在主站厅外东南侧，即秣陵路梅园路路口处兴建了联合售票大厅，整座大厅共设有40余个窗口。长三角动车组开行以后，上海站又增设自动售票大厅于东南出口东侧，以减少联合售票大厅的购票压力。
上海站是上海市的第二大火车站，毗邻上海长途客运总站，与上海虹桥站、上海南站共同构成了中国东部沿海地区大的铁路枢纽——上海铁路枢纽。伴随着上海铁路枢纽的建成，周边高速铁路网也基本成形。以上海站为代表的上海铁路以高速发展支撑着城市的前进步伐，支撑着长三角超级城市群的建设进程。
1896年，时任两江总督署理南洋大臣张之洞奏请修建经吴淞至江宁府（今南京）的铁路线。先期修建淞沪铁路，于1897年动工，次年完成。
1905年，沪宁铁路开始动工兴建。
1908年，伴随着沪宁铁路全线通车，上海站正式投用。这一时期，沪宁铁路上海车站设置于恒丰路附近，即今上海站址。由于该站为沪宁铁路全线东站，故而名为东站。但东站此时距离租界核心地区仍相对较远，适逢淞沪铁路与沪宁铁路并轨，遂决意向东延伸，确定在毗邻公共租界北区的宝山路天目路附近兴建新的站房，即沪宁铁路上海站，因位于上海市区北侧，故又称为上海北站。
1909年，沪宁线总管理处填没该处芦苇荡后建成高四层的西式洋房。站房设计采用英籍工程师西排立的设计图纸，造价总计329440元银元。大楼一层外墙采用花岗岩修建，二层起及以上采用大理石廊柱与拱形门窗的式样，内设房间76间。另外在大楼底层另建6间大型平房，与底层相连，构成候车区域和邮政、售票的服务性区域。大楼二层及以上则作为沪宁线总管理处的办公用房。
1913年，位于现上海站站址的麦根路货运站建成。
1916年12月，沪宁铁路和沪杭甬铁路并轨工程完工，沪宁铁路上海站更名为上海北站，沪杭铁路上海站则更名为上海南站。
1932年，一·二八事变发生，因上海北站位于租界以外，并临近闸北战场，因此遭到破坏，四层楼房毁于战火。
1933年5月，上海北站进行修复，站房的底层得到恢复，二层中间部分也得到重建，同时兴建左右候车室、行李房等设施。
1937年8月，淞沪会战爆发，上海北站再度沦为战区并遭到日军战机轰炸。8月28日14时，日军出动多架次战机，对上海南站实施轰炸，楼房及附属设施被毁，同时炸死炸伤旅客数百人，南站铁路运输中断。11月12日，随着上海除租界外全境沦陷，日军开始拆除上海南站及其附近长约1.5公里铁路，同时修复上海北站，并更名为“上海驿”。自此，上海所有旅客运输全部归于上海北站。
1945年，京沪区铁路管理局接管上海北站，并于次年开始进行车站的修复和扩建。经此次修复，站内站台延长至360米，拓宽站台达2787平方米，兴建两座候车室。
1947年4月，上海北站升格为上海总站。
1950年3月，原上海铁路局恢复上海北站名称。
1950年8月1日，经由原铁道部批准，上海北站更名为上海站，并核定为特等车站。原由上海总站管辖的麦根路站独立经营，并于1953年1月改称上海东站。
1960年，上海站的货运移至东站，成为专营的客运车站。
1961年，原货运仓库进行改造，建成1041平方米的候车室和行李仓库。同时延长货运站台，改建成旅客月台，并将货物线改建成客车到发线，形成南北两区，共计11股旅客到发线，候车室达3985平方米，车站日可容纳到发列车29对。
1981年3月，因上海站虽数经改建、扩建，终因受地理环境限制，站场和设备无法得到很大改善，难以应付增长的客流，原铁道部与上海市人民政府向国务院提交筹建新站的报告，提出在上海东站的原址的基础上，建设一座2万平方米的主楼、3.7万平方米的广场，日到发能力达72次的新上海站。同年6月19日，国务院批复该计划。
1982年4月1日，在不影响上海站日常运营的情况下，上海东站停止办理货运业务，但其他例如列车通过、车底存放、调车、单机通过等业务仍照常办理。
1983年9月8日，上海市政府、原铁道部因方案产生变化因此向原国家计委提交了上海铁路新客站的新设计方案。相对原计划，新计划的修改和扩充主要有：上海站站厅的容纳人数扩大到1万人，站厅面积扩建到3.3万平方米；疏通上海站周边道路，建造大统路非机动车立交，建造恒丰北路立交桥；明确自批准后6个月内动工，1987年前完成一期工程，1988年前完成二期工程；确定工程总投资为26736万元人民币。
1984年9月20日，上海站新站房工程正式开工。
1986年4月24日，工程完成第一阶段施工，新客站的南部的大厅和高架站房的土建基本完成。
1987年6月25日，工程完成第二阶段施工，兴建北半区的停车线和机走线，完成北半区的站厅和高架候车厅。同时，大统路立交建成通车。
1987年12月27日，工程完成第三阶段施工，新客站南北广场、通道、站内基础设施的安装调试以及新客站站内装修完成。同时，恒丰路、天目西路的拓宽、恒丰路桥改建以及轨道交通一号线的预留站台和折返线、邮电大楼均完工使用。
1987年12月28日，上海站新站房正式启用，老北站改建成为上海铁路客车技术整备站，主要用作客车整备。为区别以前的老火车站，新建的上海站一般被称为“新客站”。
2008年12月21日，上海站正式开行至北京的高铁动卧和到香港九龙站的直达特快列车。
2010年，为迎接上海世博会的召开，上海站进行大规模整修翻新，建成无廊柱雨棚，全部工程于2010年春运前完工。
自助购票
截至2010年5月，上海站共拥有8个普通候车大厅，1个软席候车大厅，同时有专门开往香港九龙的出入境通道和边防检查和海关。上海火车站售票大厅共有80多个窗口，其中有20个位于上海市黄浦区北京东路联合售票大厅。
便民设施
上海站售票处设置有公安制证点，公安制证点全天向外开放服务。
客运流量
1961年至1987年，新客站启用前，上海站年运送旅客3900多万人次。
2002年，上海站全年发送旅客定格为3118万人次。
2007年，上海站全年旅客发送量达4600万人次。
轨道交通
上海火车站轨道交通站台位于上海闸北区上海火车站南广场地底及北广场地面，为1、3、4号线站台。其中，1号线站厅位于南广场，铁路上海站东南出口设有通往1号线站厅的进站口，乘客在经过铁路出站闸机后无需再次安检，可直接购买地铁车票并进站。3号线、4号线车站位于铁路站场的东北侧，路轨平行于京沪铁路。在站厅西侧设有未编号的入口与上海站西北出口、上海长途客运总站连接；东侧设有一个未编号的出站通道。
出租汽车
上海站进站口正前方地下为出租车停靠站。停靠站分为两个部分，以适应自长安路、秣陵路和梅园路两个方向驶入和驶出的出租车辆。乘客可以从上海站进站口正前方的入口乘坐自动扶梯进入停靠站点。
