1907年8月8日生于辽宁省大连市金州区四十里铺一个农民家庭。8岁时随父母移居金州县城，先后入金州公学堂、私塾读书3年。早年曾在大连市钱庄当店员，后在奉天省财政厅当雇员。
1925年春考入东北军陆军军士教导队第4期步兵科（队长是张学良）学习。
1926年起任张学良副官处少尉副官、沈阳北大营军械官。
1929年考入东北陆军讲武堂第九期。
1930年6月，万毅在东北陆军讲武堂以名列该期学员考核第一的优异成绩毕业，并获张学良奖给的怀表一块、指挥刀一把。东北易帜，张学良就任陆海空军副总司令，随同去南京，任少校团副、少校营长、中校团副。
1935年随军转战陕甘地区，任东北军3旅7团代团长。不久，被任命为联络参谋。结识中共组织派赴东北军进行统战工作的刘澜波等人，开始了解工农革命道理，同情中共革命主张。
1936年1月起任东北军第109师第627团中校团长（当时29岁，是东北军最年轻的团长），同年加入抗日同志会，11月参加革命工作，任第627团的抗日青年团荣誉团长，支持和掩护中共党员在该团秘密开展抗日救亡工作。“西安事变”中，万毅率部向渭南前线开进，准备抵御国民党进攻西安的军队。后因发表“张学良把蒋介石扣留，又亲自送回去，他这个事情做得不对，未免太重义气了”的言论，被缪澄流扣押，
1937年2月被反动势力逮捕入狱。
抗日战争爆发后，1937年10月获释后任东北军第57军（军长缪澄流）
第112师第672团上校团长，曾参加南京保卫战，全团战没，只身幸免。
1938年1月任东北军第112师第334旅第667团上校团长。
同年3月秘密加入中国共产党，被吸收为中国共产党特别党员。
1938年，从5月至7月，东北军第57军第112师第667团在孙家山进行了阵地防御和反突击战。并与第672团一起进行了大桅尖战斗。两次战斗击退了日军的进攻，给日军以极大打击，阵地失而复得，保卫了连云港，使港城免受了日军的涂炭。（连云港保卫战）
1940年初任东北军第57军第111师第333旅代旅长。同年9月与师长常恩多（是位具有爱国心和十分同情共产党的领导人）发动针对与日军勾结的57军军长缪澄流的“九·二二”锄奸运动，将反共和勾结日军的军长缪澄流赶出部队。
1941年2月17日被东北军中的反动分子一一一师顽固派三三一旅旅长孙焕彩逮捕，关在鲁苏战区监狱。
1942年8月在蒋介石密令处决的前夕，从监禁地逃出，进入滨海抗日民主根据地，找到中共中央山东分局。根据中共中央山东分局指示，旋即被派回东北军，组织领导、改造脱离脱离反动派控制的第111师官兵，与反共顽固派进行斗争，任新111师副师长、师长。
1944年10月20日，奉山东军区命令，新111师改编为八路军滨海支队，任八路军山东军区滨海军区副司令员兼山东军区滨海支队支队长。
1945年6月在中共七大上当选为中共第七届中央候补委员（此时，他参加中国共产党仅仅几年时间）。
同年9月奉命率东北挺进纵队2支队（由胶东军区特务营和滨海、鲁中军区3个连组成，有1200人，万毅任纵队司令员）进军东北。
同年10月至1949年5月任中共中央东北局委员、山东军区东北挺进纵队司令员（至1946年1月）。
1945年11月至1946年1月任中共吉林省工作委员会委员、吉林军区第一副司令员。
1946年1月至7月任中共吉辽省委员会领导成员。1月至8月任东北人民自治军吉辽（辽满）军区副司令员、东北民主联军第7纵队（到1945年底，东北挺进纵队发展到14000人，整编为第7纵队）司令员。
同年2月至5月任中共吉辽省委员会辽北分省委员会委员、吉辽（辽满）军区辽北军区司令员。
同年5月至7月任中共吉辽省委员会辽北省分委员会委员。
同年7月至1947年5月任中共吉林省委常务委员、吉林军区副司令员。
1946年8月至1947年5月任东北民主联军第1纵队（东北民主联军直属第1、第2师和东北联军第7纵队部分部队，在吉林敦化地区合编组成，以第7纵队领导机关为其领导机关）司令员（李作鹏任副司令员兼参谋长，梁兴初任副司令员，周赤萍任副政治委员兼政治部主任。
1947年5月至12月改任东北民主联军第1纵队政治委员（名将李天佑出任第1纵队司令员）。8月至12月任党委书记。
1946年8月至10月任东北各省（市）行政联合办事处行政委员会委员。
同年10月至1949年8月任东北行政委员会委员。
1948年1月至3月任东北军区暨东北野战军第1纵队政治委员、党委书记。3月至11月任东北野战军第5纵队（辽东军区独立1、2、3师组建）司令员、党委书记。11月至1949年3月任东北野战军第42军（第5纵队改称）首任军长、党委书记。参加“三下江南、四保临江”、攻占四平、辽沈战役和平津战役等战役战斗。
1949年4月至12月任第四野战军（同年4月起兼华中军区）特种兵司令员、党委书记。
1949年5月至12月任中共中央华中局委员。中华人民共和国成立后。
1950年1月至1951年10月任中共中央华中局委员、中南军区特种兵司令部党委书记（至1950年5月）。
1950年4月任中南军政委员会委员。
5月至10月任中南军区炮兵司令部司令员、党委书记。
1950年10月至1952年7月任中国人民人民解放军炮兵第一副司令员兼东北边防军炮兵主任（至1951年2月）。
1950年12月至1951年5月任炮兵党委委员。
1950年参加抗美援朝战争，任中国人民志愿军特种兵司令员，中国人民志愿军炮兵司令员，率部参加了第一、二次战役。
1951年4月兼任中国人民解放军炮兵学校校长、党委书记。同月至1952年7月兼任东北军区炮兵司令员、党委书记。
1952年8月至1954年9月任中央人民政府第二机械工业部副部长。1953年9月至1959年9月任中国人民解放军总参谋部装备计划部部长。
1954年4月至1959年9月任部党委书记。
1955年9月被授予中将军衔，获得一级独立自由勋章、一级解放勋章。
1956年出席中共第八次全国代表大会，被选为中央候补委员。
1958年5月任国防部第五部部长，负责领导特种部队的组建工作。
9月当选为中国科学技术协会第一届委员会副主席。参与核试验场的空中勘察选址工作，并向中央军委领导呈送核试验场编制草案获得批准。
1959年4月至11月任国防部国防科学技术委员会副主任兼中国人民解放军总参谋部装备计划部部长，5月至11月任国防部国防科学技术委员会机关党委书记。同年9月庐山会议后因受彭德怀错案株连，被撤销党内外职务（1979年平反）。1960年4月被迫离开部队，下放陕西劳动，5月起任陕西省基本建设委员会副主任，
1960年11月至1966年3月任陕西省林业厅副厅长。
1966年3月起任陕西省农林厅副厅长。“文化大革命”中再次受到迫害。
1967年11月至1973年11月被关押6年，患青光眼得不到治疗。
1969年左眼失明。
1973年11月被释放，右眼视力仅为0.08。
1977年10月至1982年任中国人民人民解放军总后勤部顾问。
1978年3月任中国人民政治协商会议第五届全国委员会常务委员会委员。
1979年11月至1980年11月中国人民人民解放军总政治部为其平反，恢复名誉。
1982年9月出席中共第十二次全国代表大会，被选为中共中央顾问委员会委员。
1985年9月辞去中顾委委员职务。
1985年7月起按正大军区职待遇。
1988年7月被中央军委授予中国人民解放军一级红星功勋荣誉章。
他还是第一届全国人民代表大会代表，中华人民共和国第一、第二届国防委员会委员。
1997年10月31日因病在北京逝世。著有《在庐山会议上》、《万毅将军回忆录》。
