王戎出身于魏晋高门琅玡王氏，祖父王雄，在曹魏官至幽州刺史；父亲王浑，官至凉州刺史，封贞陵亭侯。
王戎自幼聪颖，神彩秀美。据说能直视太阳而不目眩。裴楷称赞他说：“戎眼烂烂，如岩下电。”王戎六七岁时，在宣武场看表演，当时猛兽在栅槛中咆哮，众人都被吓跑，只有王戎站立不动，神色自如。魏明帝曹叡在阁上看见后，称赞王戎是奇童。
《世说新语·雅量》记载王戎曾与同伴在路边玩耍，见道旁有结满李子的李树，其他人争相去摘，只有王戎不动声色，别人问他为何如此，答曰：“树在道旁而多果实，果实必定是苦的。”验证之后，果然如此。此事刘孝标注引《高士传》即已记载，它源自佛经故事，比如《本生经·愿望品》中的《果子本生因缘》，后人将它附会在王戎身上，并被史家采信，从而完成了从故事传说到历史事实的转变。
王戎与王浑的朋友、年长其二十四岁的阮籍交好。时阮籍与王浑同任尚书郎，每造访王浑时，与王浑见一面就离去，和王戎交谈，很久才出来。便对王浑说：“濬冲清虚可赏，和你不是一类人。与你说话，不如与阿戎说。”王浑去世后，他的故吏赠钱百万助丧，王戎辞而不受，因此而显名。
王戎身材短小，性格坦率而不注重仪表，为人健谈，善于提出话题，并能抓住谈话的要领。一次，众名士一起到洛水边游玩，回来的时候，乐广问王济：“今天玩得高兴吗？”王济说：“裴仆射（裴頠）擅长谈论名理，滔滔不绝，志趣高雅；张茂先（张华）谈《史记》、《汉书》，娓娓动听；王安丰（王戎）谈论季子（季札）、张子房（张良），也议论高超而玄妙。”王戎就是这样受到鉴识者的欣赏。
王戎曾与阮籍饮酒，当时兖州刺史刘昶（字公荣）在座，阮籍因为酒少，不给刘昶斟酒，刘昶没有表现出遗憾的样子。王戎感到奇怪，隔日问阮籍说：“他是怎么样的人？”阮籍回答道：“胜过公荣的人，不能不和他一起饮酒；如果不如公荣，就不敢不一同饮酒；惟独公荣可以不和他一起饮酒。”王戎常与阮籍作竹林之游，王戎有一次曾经后到。阮籍说：“俗人又来败坏我的兴致。”王戎笑着说：“你的兴致也太容易败坏了！”
吏部郎之职空缺时，司马昭向钟会询问吏部郎的人选。钟会说：“裴楷清明通达，王戎简要省约，都是吏部郎的人选。”
王戎最初世袭其父的爵位贞陵亭侯，被司马昭辟为掾属，历仕吏部黄门郎、散骑常侍、河东太守。咸宁二年（276年），出任荆州刺史，因为派遣下属私建院宅被论罪，应该被罢免，武帝下诏允许赎罪处理。
咸宁四年（278年），改任豫州刺史，加建威将军。
咸宁五年（279年）十一月，西晋大举伐吴，王戎派参军罗尚、刘乔为前锋，协助王濬进攻武昌，吴将杨雍、孙述及吴国江夏太守刘朗各自率众向王戎投降，王戎率大军至长江边，吴国牙门将孟泰献蕲春、邾二县投降。
太康元年（280年），吴国灭亡，王戎因功进安丰县侯，增加食邑六千户，赐绢六千匹。王戎渡江安抚新附的吴国百姓，宣扬晋室威德恩惠。曾在吴国任光禄勋的石伟为人正直，与孙皓不和，称病回家。王戎赞扬他的清刚之节，上表向武帝推荐他，武帝下诏拜石伟为议郎，终身以二千石俸禄供养，荆州百姓都对王戎悦服。
太康三年（282年），王戎被征召为侍中。南郡太守刘肇以五十端名叫筒中的细布行贿王戎，被司隶校尉刘毅纠察弹劾，因王戎知道是贿赂未曾接受，才没有治罪，然而谈论的人认为这也是王戎的过错。武帝对朝臣说：“王戎的行为，怎能算怀私苟得，正是以不贪欲异于他人罢了。”武帝虽这样替王戎解释，但王戎从此为清议所鄙，名声受损。王戎任职虽然没有特殊才能，但处理各种政务很妥当。
太康五年（284年），迁光禄勋。太康十年（289年），补任吏部尚书，因母亲去世而离职。
太熙元年（290年），武帝驾崩，晋惠帝司马衷即位，由太傅杨骏辅政，任命王戎为太子太傅，与张华、裴楷、和峤都因有德望被杨骏猜忌，不得参与朝政。
永平元年（291年）三月，杨骏一族被诛，贾后掌权，当时东安公司马繇专断刑赏，威震内外。王戎告诫司马繇说：“大事成功之后，考虑问题要深远些。”司马繇不听，果然被废徙辽东。后转任中书令，加光禄大夫，赐恩信五十人。又迁任尚书左仆射，领吏部事务。任吏部时，王戎创制了甲午制，但凡选拔人才，先让被选者治理百姓，然后再授官擢用。但被司隶校尉傅咸弹劾，王戎与后族贾氏及贾后母族郭氏是姻亲，因而没有被免官。
元康七年（297年）九月，升任司徒。
王戎认为王政将要颓败，便与权臣苟合求容，后来愍怀太子司马遹被废，他也没有一言劝谏。
永康元年（300年）四月，赵王司马伦起事，囚禁贾后，诛司空张华、尚书仆射裴頠、侍中贾谧等人，王戎因嫁女与裴頠而被连坐免官。
永宁元年（301年）正月，赵王司马伦篡位。三月，齐王司马冏起兵于许昌。司马伦之子想要以王戎为自己的军司。博士王繇谏劝道：“濬冲（王戎字）谲诈多端，怎么肯被一个年轻人任用？”于是才作罢。四月，司马冏拥晋惠帝反正，任命王戎为尚书令。
太安元年（302年）五月，迁司徒。十二月，河间王司马颙联合成都王司马颖等讨伐齐王司马冏。司马冏问王戎对策。王戎认为司马冏自诛赵王伦、拥惠帝反正以来，赏罚失当，以致朝野多有怨言，人怀贰志；建议司马冏主动撤回自己的封国，尚可保住王位。司马冏的谋臣葛旟怒斥道：“自汉魏以来，王公失势回府第，有能保全妻子儿女的吗？说这件事的人当斩！”群臣惊惧，王戎假装服寒食散药力发作，跌倒在厕中，才免去一死。 司马冏与长沙王司马乂败后，东海王司马越把持朝政。
王戎认为天下将乱，仰慕春秋时期蘧伯玉的为人，随波逐流，不以世事名节为意。自从掌选才任官之职，不曾擢拔出身寒微之士，退黜徒有虚名之人，只是随时势而沉浮，在官门中选官调职而已。不久，被拜为司徒，他虽然总理三司之权，却把政事交给僚属办理，自己常骑小马从便门出游，见到他的人不知他是三公。王戎的很多门生故吏也做了大官，路上遇到他都要避开。
永安元年（304年）七月，司马越奉惠帝北征司马颖，王戎等百官随行。在荡阴大败，惠帝身中三箭，侍中嵇绍遇难。王戎随惠帝及群臣被司马越挟持至邺城。八月，司马颖被安北将军王浚击败，王戎又随惠帝被司马颖挟持至洛阳。不久，张方劫持惠帝及司马颖西入长安。王戎出奔郏县。在危难中曾亲自与乱军交锋，冒白刃之险，然而他始终谈笑自若，从未有害怕的神情。有时召集亲故宾友，以宴饮为乐。
永兴二年（305年）六月初四（7月11日），王戎在郏县去世，享年七十二岁，谥号为元。
在小说《三国演义》中，王戎为晋建威将军，灭吴之战中领一路兵马出兵武昌。
裴楷：戎眼灿灿，如岩下电。
阮籍：濬冲清赏，非卿伦也。共卿言，不如共阿戎谈。
钟会：裴楷清通，王戎简要。
王济：王戎谈子房、季札之间，超然玄著。
王繇：濬冲谲诈多端。
戴逵：王戎晦默于危乱之际，获免忧祸，既明且哲，于是在矣。
房玄龄等《晋书》：①汉相清静，见机于旷务；周史清虚，不嫌于尸禄。岂台揆之任，有异于常班者欤！濬冲善发谈端，夷甫仰希方外，登槐庭之显列，顾漆圆而高视。彼既凭虚，朝章已乱。戎则取容于世，旁委货财；衍则自保其身，宁论宗稷？及三方构乱，六戎藉手，犬羊之侣，锋镝如云。夷甫区区焉，佞彼凶渠，以求容贷，颓墙之陨，犹有礼也。②濬冲居鼎，谈优务劣。
