王衍字夷甫，出身于魏晋高门琅邪王氏。他外表清明俊秀，风姿安详文雅。他幼年时，曾去拜访山涛，山涛见到他后，感叹了许久。等到王衍离开的时候，山涛目送他走出很远，又感慨地对别人说：“不知道是哪位老妇人，竟然生出了这样的儿子！然而误尽天下老百姓的，未必就不是这个人。”
王衍的父亲王乂曾任平北将军，当时经常有公文事务需要派使者呈送，但常常无法按时得到答复。王衍十四岁的时候，就常到尚书仆射羊祜那里申报陈述公文的内容，言辞非常清晰明白。羊祜在当时很有名望，德高望重，但王衍在他面前却没有自卑屈节的神色，大家都觉得十分惊异，都说他是一个奇士。外戚杨骏想把女儿嫁给他，王衍却以此为耻，假装发狂才得免。晋武帝司马炎听闻王衍的名声，就问他的堂兄王戎：“当世哪个人可以和王衍相比？”王戎说：“没有见到当世谁能跟夷甫（王衍）相比，应该从古人中去寻求。”
泰始八年（273年），司马炎下诏命百官举荐可以安定边疆的人才。王衍起初喜欢谈论连横合纵的游说之术，所以尚书卢钦举荐他为辽东太守，但王衍没有就任。从此以后，他不再谈论世事，整日里只是吟咏谈玄而已。王衍的父亲在北平郡去世后，他的亲人朋友送给他很多办理丧葬钱财，许多亲戚熟人向他借贷，王衍就把钱财分给他们。没几年的时间，家里的财产就几乎用光了。在没有办法的情况下，王衍只好搬到靠近洛阳城西的田园中居住。
后来，王衍步入仕途，先担任太子舍人，又入朝任尚书郎，后出京补任元城（今河北大名东）县令。他整天还是清谈，但县里的大小事务也还算理顺。之后，他又回到京城，任太子中庶子、黄门侍郎。
曹魏正始（240年—249年）年间，何晏、王弼等人自称继承老庄，清谈玄学，这就是魏晋玄学的开始，后人称其为“正始玄学”。王衍非常推重他们的看法，但裴頠认为这种看法不正确，并著文讽刺它。而王衍还是像平常一样，而且认为裴頠很有才华，很推崇他。
王衍才华横溢，容貌俊雅，聪明敏锐有如神人，常把自己比作子贡，再加上他的声誉名气很大，为世人所倾慕。他精通擅长玄理，专门谈论《老子》、《庄子》。无论朝廷高官，还是在野人士，都很仰慕他，称他为“一世龙门”。王衍接连担任显要职务，很多年轻求仕的人，没有不仿效他的。凡被朝廷进用的官员，都认为他应该做士族的首领。但他崇尚浮华放诞，又被许多人赞同，因此成为了世间风气。
王衍后来历任北军中侯、中领军、尚书令。他的女儿是愍怀太子司马遹的妃子，司马遹被贾后诬陷时。王衍惹祸上身，于是上表请求解除婚约。
永康元年（300年），贾后被废黜，有关部门上书弹劾王衍，说：“王衍给司徒、梁王司马肜写信，抄录呈送皇太子亲手写给妃子以及王衍的信函，陈述被诬陷的经过。梁王等人拜读后，深感文词语言非常诚恳感人。而王衍身为大臣，应该进行议处责论。太子既被诬陷而获罪，王衍却不能拼死坚持正义，竟随即要求离婚。他得到太子亲手写的信函之后，收藏起来并不示众，一心只想苟且偷生，避免灾祸，完全没有忠诚正直的操守，必须给予公开谴责，以勉励直臣的气节，应该把他监禁终身。”惠帝同意。
赵王司马伦及孙秀等掌握大权后，大肆杀戮朝臣。孙秀曾是琅邪郡的小吏，请求乡里名流为他品评。王衍开始不想允诺，后来听从了王戎的建议才为他品题。孙秀得志后，对王戎、王衍便大加照顾。
永宁元年（301年），司马伦篡位，但王衍素来轻视司马伦的为人，这时，王衍便装作颠狂杀死奴婢而免于出来任职。同年，司马伦被诛杀后，王衍被拜为河南尹，转任尚书，又任中书令。当时齐王司马冏有匡扶惠帝复位的功劳，但他专断大权，任意行事，公卿见到他都下拜，唯有王衍长揖不拜，因此得罪司马冏，托病辞官。后来，被成都王司马颖任命为中军师，经屡次升迁任尚书仆射，兼管吏部事务。后又任尚书令。光熙元年（307年），王衍升任司空。次年，又任司徒。
王衍虽然担负宰相的重任，但却不认真考虑国家的治理，只想方设法保全自己。他考虑的只是在纷繁变乱的局势中，如何能够使自己及家族长久生存下去，因此他为自己精心营造了一个退路。青州和荆州都是当时的军事要地，物产也很丰饶。因此，王衍对东海王司马越说：“中原现在已经大乱，应该依靠各地的负责大臣，因此应该选择文武兼备的人才出任地方长官。”就让弟弟王澄为荆州刺史，族弟王敦为青州刺史。并对王澄、王敦说：“荆州有长江、汉水的坚固，青州有背靠大海的险要。你们两个镇守外地，而我留在京师，就可以称得上三窟了。”当时有见识的人都很鄙夷他。
永嘉二年（308年）五月，刘渊的部将王弥进攻洛阳，朝廷命王衍以司徒身份都督征讨诸军事、持节、假黄钺，率军抵抗王弥的军队。王衍命前将军曹武、左卫将军王景等进攻敌军，将其击退，并缴获了他们的辎重。
永嘉三年（309年），王衍转任太尉，兼尚书令。又封他为武陵侯，但他多次辞让封爵，不肯接受。当时洛阳日益危险紧急，多数人都想迁都以躲避灾难，但王衍却卖掉牛车，以示坚定来安抚人心。
永嘉四年（310年），司马越讨伐苟晞时，王衍以太尉身份任太傅军司。
永嘉五年（311年）三月，司马越去世，众人共同推举王衍为元帅。王衍认为这时战争频繁，惧怕因而不敢担当，就推辞说：“我年少时就没有做官的愿望，然而积年累月，升迁到现在的地位。今天的大事，怎能让我这样一个没有才能的人来担任统帅呢？”于是与众人奉司马越的棺椁还葬东海国。
四月，晋军被石勒军队击破。石勒让西晋的王侯大臣前来与他相见，他以西晋的旧事询问王衍。王衍向他陈说了西晋败亡的原因，并说责任不在自己身上。石勒很欣赏他，同他谈了很长时间。王衍说自己年轻时就不喜欢参与政事，想求自身避免祸患，因而劝说石勒称帝。石勒大怒说：“你名声传遍天下，身居显要职位，年轻时即被朝廷重用，一直到头生白发，怎么能说不参与朝廷政事呢？破坏天下，正是你的罪过。”让手下把他押出去。石勒对他的参谋孙苌说：“我行走天下多年了，从来没有见过这样的人，还应该让他活下去吗？”孙苌说：“他是西晋朝廷的三公，一定不会为我们尽力，有什么值得可惜的呢？”石勒说：“总之不可用刀刃加害于他。”于是命令士兵在半夜里推倒墙壁把他压死。王衍临死时，看着别人说：“唉！我们即使不如古人，平时如果不崇尚浮华虚诞，勉力来匡扶天下，也不至于到今天的地步。”享年五十六岁。
王衍去世几十年后，桓温北伐时，他在中原登临远眺，感慨地说：“国土失陷，中原百年来成为一片废墟，王夷甫等人推脱不了他们的罪责。”袁宏为王衍开脱说：“天命运数自有兴废，不一定是那些人的过错。”桓温脸色一变，说以前荆州刘表有一头重达千斤的肥牛，吃草料豆饼十倍于常牛，但负重行远，还不如一头瘦弱有病的母牛。曹操攻破荆州，就把它杀了犒劳兵士。用牛来比喻袁宏，座下宾客无不失色。
王衍善行书，《宣和书谱》称其“作行草尤妙，初非经意，而洒然痛快见于笔下，亦何事双钩、虚掌、八法、回腕哉？其自得于规矩之外，盖真是风尘物表脱去流俗者，不可以常理规之也。”有其作品《尊夫人帖》。
《全晋文》有《谢表》、《答山简书》。
王衍在谈论玄理时，经常手持白玉柄的尘尾，手和玉柄的颜色一样白皙。凡是他觉得道理有什么不妥当的地方，就马上更改，世人称他是“口中雌黄”。
王衍的幼子不幸夭折后，名士山简去安慰他。王衍十分悲痛，几乎无法控制。山简就说：“孩子不过是怀抱中的东西，哪至于悲痛到这种地步！”王衍说：“圣人可以忘掉感情，最下等的人则对感情没有体会。然而最珍重感情的，正在我们这样的人身上。”山简很佩服他的言论，也转而为之悲痛。
王衍曾托族人办事，但好久没有回音。有一次聚会宴饮，就问那个人说：“近来托您办的事，为什么没有消息？”没想到那个人很恼怒，举起酒器就砸他的脸。王衍沉默不语，清洗完毕，领着当时还年少的王导一起乘牛车离去。他在车中用镜子自照，对王导说：“你看我的眼光还是在牛背上呢!”
王衍的妻子郭氏，是惠帝皇后贾南风的亲戚，凭借贾后的权势，他刚愎贪婪，性情暴戾，搜刮财物贪得无厌，喜欢干涉别人的事情。王衍耳闻目睹妻子的种种恶行，但没有办法禁止她。当时，他的同乡人、幽州刺史李阳，是名震京师的大侠士，郭氏素来很忌惮他。王衍因此对郭氏说：“不只是我说你不能这样做，李阳也说过这样做不好。”郭氏因此行为稍稍收敛。王衍素来鄙夷郭氏的贪重钱财，所以口中从来不提钱这个字。郭氏想试试他究竟会不会说，就让奴婢用钱绕床一圈，让他不能走出来。王衍早晨起来看到钱后，就对奴婢说：“把这些东西（阿堵物）都拿走！”
彭城王司马权有一头快牛，对它非常爱惜。王衍和他赌射，赢得了这头牛。司马权说：“你如果要自己骑乘就算了，如果想杀掉吃牛肉的话，我愿意用二十头肥牛代替它。既有肉吃，又能存下我喜爱的东西。”王衍却把牛杀掉吃了。
王衍俊秀而有很好的名望，一心企求玄虚悠远，从来不谈利字。他的族弟王敦在晋末南渡之后，经常称赞他说：“夷甫处在人群之中，犹如明珠美玉落在瓦片石块之间。”顾恺之在王衍的画像上作赞词，也称赞他人品如青山耸峙，千仞壁立。由此可见他被人所推崇的程度。
王戎曾说：“王衍的风度仪态高雅清澈，好象晶莹的玉树，自然是尘世之外的人物。”
王澄评论王衍说：“哥哥外貌好像很正直，可是锋芒太露了。”王衍回答说：“确实比不上你那样豁达大度。仪表温和。”王导也曾评论王衍：“陡峭地肃静地耸立在那里，像千丈石壁一样屹立着。”
众名士对比评论人物时，拿裴氏家族中的八位和王氏家族中的八位对比，其中把裴楷与王衍相比。
还在西晋时，有一班人倾慕道家学说，其中有人登门向王衍请教疑难，正碰王衍前一天已经谈论了很久，有点疲乏，不想再和客人应对，便对客人说：“我现在有点不舒服，裴逸民（裴頠）也在我附近住，您可以去问他。”
有人去拜访王衍时，遇到王戎、王敦、王导在座；到另一个房间去，又见到王诩、王澄。他回家后，告诉别人说：“今天走这一趟，满眼都是珠宝美玉。”
王衍与裴邈因为志趣爱好不同而发生分歧。裴邈总想攻击他而抓不到把柄，便故意去找王衍，肆意辱骂，想让王衍应答，然后诽谤他。但王衍声色不动，缓缓地说：“白眼儿终于发作了。”
山涛：何物老妪，生宁馨儿！然误天下苍生者，未必非此人也。
刘讷：王夷甫太鲜明。
王澄：兄形似道，而神锋太俊。
王戎：太尉神姿高彻，如瑶林琼树，自然是风尘外物。
王导：①岩岩清峙，壁立于仞。②唯共推太尉，此君特秀。
石勒：君名盖四海，身居重任，少壮登朝，至于白首，何得言不豫世事邪！破坏天下，正是君罪。
王敦：夷甫处众中，如珠玉在瓦石间。
庾翼：王夷甫，先朝风流士也，然吾薄其立名非真，而始终莫取。若以道非虞夏，自当超然独往，而不能谋始，大合声誉，极致名位，正当抑扬名教，以静乱源。而乃高谈《庄》《老》，说空终日，虽云谈道，实长华竞。及其末年，人望犹存，思安惧乱，寄命推务。而甫自申述，徇小好名，既身囚胡虏，弃言非所。凡明德君子，遇会处际，宁可然乎？而世皆然之。益知名实之未定，弊风之未革也。
