王五出生贫寒，三岁时父亲又因病辞世。他只得与母亲相依为命，很小便开始干各类杂活，后来又拜肖和成为师，为习武打下了坚实的基础。
沧州当时最有名的武师当属双刀李凤岗。为了修习更高的武艺，王五便想拜他为师，却多次吃了闭门羹，他就长跪李门前以示诚心，李凤岗为其精神打动，便收其为徒。王五不负师父重望，几年下来功夫已不在师父之下。为了把他锻炼成更加全面的人才，李把他推荐给自己的师兄刘仕龙，一起押镖，行走江湖。经过几年的锻炼，王五告别了师父，同治十年，他先到天津，后又到北京，经人介绍到了一家镖局当了镖师。
1877年（光绪三年），王五利用自己的积蓄，加上朋友的帮忙，在北京半壁街（崇文区）自开了源顺镖局（后来迁往广安大街）。源顺镖局活动范围广大，北自山海关，南到江苏淮安市清江浦。他规范从业，收费合理，德义高尚，生意十分红火，很短时间内便声名鹊起。
王五不仅本行中受人尊敬，他的爱国义举更是被人们广泛传颂。甲午战争失败后，御史安维峻上疏，力陈议和之弊，要求严惩误国者，却遭到清廷的贬斥，被革职戍边。王五出于义愤毅然担负起了护送安维峻的责任。回京后，王五便在香厂筹开学堂街，名为“父武义学”。更为人们所称道和广为流传的是王五与谭嗣同的交往。王五侠义心肠，与谭嗣同兄弟相称，传授谭武艺刀剑之法，二人由此建立了深厚的友谊。
1898年（光绪二十四年），戊戌变法进入高潮，谭嗣同应诏入京，任四品军机章京，参与变法。在此期间，王五担负起了谭嗣同的衣食住行和保安工作。变法失败后，谭嗣同为表白自己变法决心，醒悟大众，甘愿受捕。王五得知后心急如焚，多方打探消息，买通狱吏，还广泛联络武林志士，密谋救谭，却被谭嗣同坚决拒绝了。9月27日，谭嗣同等“戊戌六君子”被刚毅监斩于宣武门外菜市口，王五得知后悲痛欲绝。为了继承谭嗣同的遗志和复仇，王五多次组织人员进行暗杀活动，终未果，使王五反抗清廷的决心自此更加强烈。
1900年（光绪二十六年），义和团拳民运动在北方兴起。王五率众积极参加，与义和团众并肩作战。10月25日，清政府派兵将顺源镖局团团围住，王五等人终因寡不敌众被捕，尔后被八国联军枪杀于前门，死时56岁。
大刀王五被杀后，头被挂在城门上，家人无法给王五入殓。天津的霍元甲听说后，只身赶来，夜里将王五的头取下、埋葬。当天晚上，霍元甲就住在王五故居南房西侧的一间房子里。
当年王五在北京颇有威信，众人赠有“德容感化”和“义重解骖”两块匾额，挂在门的东西两侧，后来院里的人搭建房屋，匾被取下来当了床板。门前原来有个轩豁空场，高高飘扬着源顺镖局的杏黄大旗，新中国成立后已经被公厕占了大半个地方。据说王五那把一百多斤重的“青龙偃月大刀”一直保存到1958年，在“大跃进”时期进了炼钢炉。
大刀王五的事迹被编入邵氏影片《大刀王五》、武侠片《一刀倾城（神州第一刀）》、电视剧《大刀王五》和李敖小说《北京法源寺》。
