1929年在家乡参加（黄）陂（黄）安南游击队，同年秋编入中国工农红军第11军。
1930年加入中国共产主义青年团，同年转入中国共产党。
1931年在红四方面军任连政治指导员，参加了鄂豫皖苏区历次反“围剿”。
1933年起任红30军第88师263团营政治委员、团政治委员，红4军第10师副师长、第11师政治委员，参加了开辟川陕苏区和反三路围攻、反六路围攻作战。
抗日战争爆发后，任八路军第129师385旅769团团长。
1937年10月率部夜袭阳明堡日军机场，炸毁日军战机24架。此次战斗是129师出兵第一仗，使日军一时丧失进攻忻口、太原的空中支援力量，并且被迫回调大批部队守备后方，有力配合了国民党军对日作战，提高了八路军的威望，受到八路军总部嘉奖。后率部参加神头岭、响堂铺、晋东南反“九路围攻”等战役战斗。
1938年起任第129师385旅副旅长、旅长，太行军区第3分区司令员。
1940年在129师破袭白晋铁路作战中，率部采取腹地开花”、内外结合的战法，迅速歼灭南关镇日军。在“百团大战”第一阶段作战中，率部在狮垴山顽强阻击日军进攻，给日军以重大杀伤，牵制了大量日伪军，为129师在正太路的破袭行动创造了有利条件。
1943年到延安，入中共中央党校学习。抗日战争胜利后，任晋冀鲁豫军区和晋冀鲁豫野战军（后为中原野战军）第3纵队司令员，先后参加上党、邯郸、鲁西南诸战役。
1947年参加进军大别山战役，率3纵跨过陇海路，越过黄泛区，以交替前进的部署，率先抢渡淮河，到达大别山北麓，半个月解放宛西9个县城及大片地区，打开宛西新局面。
1947年4月在豫北战役中，采取避其锋芒、诱其深入、陷其孤立，然后聚而歼之的战法，全歼国民党军第2快速纵队，创造了以劣势装备歼灭一个机械化旅的范例。随后协同兄弟部队攻取豫北重镇汤阴，活捉国民党第12纵队司令孙殿英。淮海战役开始后，率中原野战军第1、第3纵队和华东野战军第13纵队组成西线集团，受命攻占宿县。在作战中亲率各级指战员抵近前沿勘查，做出周密部署，研究攻坚战法。总攻发起后经一昼夜激战，全歼宿县守敌1.2万余人，使徐州刘峙集团完全陷入孤立。后协同兄弟部队在双堆集歼灭国民党军黄维兵团。
1949年2月任第二野战军第3兵团司令员，率部参加渡江战役，突破江防防线后截断浙赣线，迂回大西南，歼灭宋希濂集团，攻占国民党“陪都”重庆，兼任中共重庆市委第一书记、市长和川东军区司令员。
新中国成立后，1950年调任人民解放军炮兵司令员，后兼任炮兵学院院长，主持制定炮兵发展规划，组织部队改装，进口和研制炮兵装备，为新中国炮兵的发展做了大量开创性工作。到50年代末期，炮兵达到了队伍壮大、编制合理、配套齐全、训练正规的要求，在抗美援朝、炮击金门作战中发挥了重要作用。在中国第一个导弹试验基地选址过程中，带领专家组乘飞机穿越戈壁沙漠，多次出入无人区，掌握了大量第一手资料，为人民解放军战略导弹部队的创建做出重要贡献。
1959年起任沈阳军区司令员、中共中央东北局书记处书记、北京军区司令员、中共中央军委常务委员、国务院副总理。
是第一至第三届国防委员会委员，中共第八届中央候补委员、中央委员（1968年递补），第九至第十一届中央委员和中央政治局委员。
1980年1月被免去中共中央政治局委员、国务院副总理和北京军区司令员职务。
1982、1987年被选为中共中央顾问委员会常务委员。
1999年6月10日23时45分，在北京因病抢救无效逝世，享年85岁。
《陈锡联回忆录》
作者陈锡联以参加长征“夜袭阳明堡”、进行淮海决战、组建军委炮兵等为纲线，记述自己经历了诸多难以忘怀的往事，表现一代革命家对人民解放事业的波澜壮阔和中华人民共和国曲折前进的辉煌壮丽往事，让今天的人们重新感受那段艰难而又辉煌的革命历史。
1955年被授予上将军衔，获一级八一勋章、一级独立自由勋章和一级解放勋章。
1988年获一级红星功勋荣誉章。
在70年的革命生涯中，陈锡联同志对党对人民无限忠诚，对革命事业矢志不渝，把自己的毕生精力献给了祖国的解放事业、社会主义建设事业和军队现代化建设事业。
他具有坚定的共产主义信念和无产阶级党性原则，一生追求真理，坚持实事求是，在大是大非面前，立场坚定，旗帜鲜明。他努力学习马列主义、毛泽东思想和邓小平理论，衷心拥护党的十一届三中全会以来的路线、方针、政策，自觉维护以江泽民同志为核心的党的第三代领导集体的权威，在思想上、行动上始终与党中央保持高度一致。他具有卓越的军事指挥才能和领导艺术，身经百战，出生入死，身先士卒，智勇兼备。他善于打硬仗、恶仗、苦仗；善于以少胜多，以弱克强。他指挥战斗计划周密，决心迅速果断，战术灵活机动。他执行命令坚决，无论环境多么险恶，条件多么困难，勇往直前，从不退缩。他是人民解放军功勋卓著的一代名将。
他具有共产党人高尚的思想品质和道德情操。他襟怀坦白，光明磊落，维护团结，顾全大局，严于律己，宽以待人。他不居功，不诿过，胸怀宽大，从不计较个人得失，勇于解剖自己，勇于开展批评和自我批评，勇于承担责任。他艰苦朴素，廉洁奉公，两袖清风，谦虚谨慎，平易近人，对家属子女和身边工作人员要求严格，始终保持了我党我军的优良传统和政治本色。他用自己的模范行动，赢得了部队指战员和人民群众的尊敬与爱戴。（人民日报）
纪念陈锡联同志诞辰100周年座谈会5日在京举行。中共中央政治局常委、国务院副总理张高丽出席，并在会前会见了陈锡联同志亲属。
陈锡联同志是中国共产党第九届、十届、十一届中央政治局委员。曾任重庆市委第一书记、市长、沈阳军区司令员、北京军区司令员，中央军委常委，国务院副总理。
中央军委副主席范长龙在讲话中深切缅怀了陈锡联同志的革命业绩和崇高风范，强调要紧紧围绕党在新形势下的强军目标，继承发扬我党我军光荣传统和优良作风，开拓进取，扎实工作，为维护国家主权、安全和发展利益，为实现“两个一百年”奋斗目标，实现中华民族伟大复兴的中国梦作出应有贡献。
