早年仕途
刘兆麒祖籍江苏沛县，明嘉靖间其曾祖刘信始迁居丰台。其父刘世则生二子，长子刘兆麟中顺治辛丑科武进士，终生未仕；次子即刘兆麒。刘兆麒生于明末动荡年代，当时的明王朝内有李自成、张献忠等领导的农民军此起彼伏的斗争，外受满州女真族虎视眈眈的窥伺和侵扰，已处于风雨飘摇之中。崇祯九年（1636年），皇太极在沈阳改国号为清，开始覆灭明朝的军事行动。他经常派兵打进长城，深入河北、山东等地大肆劫掠，同时也顺势在内地网罗汉人中的人才，以备将来所用。刘兆麒“幼而端重，寡言笑，举止如成人；读书过目辄成诵，为文皆有理法”。1642年刘兆麒14岁时，于清兵在北京附近的一次侵扰中招揽，被带到关外。皇太极“见而异之，令入官学读书”，并编入汉军镶白旗。1644年随清兵入关。后学有所成，在顺治六年（1649年）对汉军的一次考试中名列第一，被授予内秘书院编修，成为皇帝的私人秘书和侍从。当时，顺治帝经常亲临内秘书院，发现刘兆麒“年少敏达，心喜之”。此后十年中多次被提拔，先后任都察院启心郎、宗人府启心郎，后晋升都察院左副都御史，成为顺治帝的亲信。
顺治十八年（1661年），南明的桂王在缅甸被俘，云南、贵州等地被清军平定，但李来亨、郝摇旗等领导的农民军转入荆襄一带的群山中，继续坚持反清斗争。为镇压反清势力，巩固对江南的统治，清廷选派心腹大臣前往镇抚。1661年，康熙即位不久，年仅33岁的刘兆麒被委以湖广巡抚的重任，开府武昌，“倚办军兴事宜”。到任后，他一方面“宣布威信”，积极督剿反清势力，一方面“与民更始”，蠲免苛赋繁役，安抚流民，发展生产。当时，清廷调集四川、湖广、陕西三省的兵力，在西山一带围剿农民军，境内“禁旅云集”，官府征粮派夫以供军需，“丁夫困转输，往往颠踣涧谷”，搞得地方上“财殚力竭而功不克”。刘兆麒“悉心经划”，曲为调度，命各州府县“照粮均派，而宽其负任”，使“民无重累，士皆宿饱”，多数民夫能保命还乡，因而“闾里晏然”，一定程度上减轻了百姓的痛苦。1663年秋，长江发生特大洪灾，沿江一带“人畜漂没者无算”。刘兆麒一边“缮疏”朝廷，报告灾情，请求赈济；一边动用省力“百方赈恤”，使灾民免于饥饿和流离失所。他在湖广任职八年，使“伏莽悉定”，肃清了反清势力，也多少疗治了民间疾苦和战争创伤，史称“仁恩被于江汉”，被加授工部侍郎衔。离任后，当地人立其生祠于武昌大观山南麓。作为一个历史人物，刘兆麒参与剿杀农民军的行动，自然难辞镇压人民之咎；但从另一个角度看，当时清统一全国已成大势所趋，尽快结束战乱，使百姓脱离战争，使国家归于安宁，毕竟是符合历史潮流的，何况刘兆麒役民尚不太苛刻，也为老百姓办了些好事，对他也就不必过于苛责了。
康熙七年（1668年），刘兆麒升任四川总督，在任仅几个月，仍致力于平叛安民，遂以抚川功加兵部尚书。康熙八年（1669年）调任浙江福建总督。当时台湾为郑氏父子占据，浙闽居于海防前线，他殚精竭虑筹划海防事宜，所上奏的条陈，皆“老谋硕划，凿凿然洞中肯綮”，人民“赖之以安”，两省“皆称严疆”。康熙九年（1670年）进阶光禄大夫。此时，他以总督辖浙江福建等处地方军务，兼理粮饷，挂兵部尚书兼都察院右副都御史衔，官阶为从一品，一时达于其仕宦生涯的颠峰。
平定三藩
康熙十二年（1673年），“三藩”（吴三桂、耿精忠、尚可喜）乱起，京师震动。刘兆麒回京述职，被任命为直隶援剿提督，作为特用的三大文臣之一前往平叛。一年后，“三辅清晏”，改任江南崇明水师提督。他积屯粮草，整饬兵备，并严惩克扣军饷的不法官吏，使军威复振。当时，清政府为孤立台湾而实行海禁，使大批沿海居民失业，生活苦不堪言。他下令允许渔民用竹筏下海捕鱼，同时采取措施平抑市价，禁止商人用高利贷盘剥百姓，惩治饮博无赖之徒，使“民乐其业，商旅通途”。在崇明任职十年，号称“内地宁谧，人不知兵”，当地人树仁政碑以颂其德。
抗击沙俄
参加反击沙俄侵略的雅克萨之战是刘兆麒一生中最具光彩的一页。明末清初，俄罗斯帝国开始向黑龙江流域扩张，先后在中国边地强建雅克萨和尼布楚两城，侵入索伦、呼尔喀等部。为制止沙俄的侵略，清王朝决定以武力反击。康熙二十三年（1684年），刘兆麒调任黑龙江水师总管，率水师奔赴前线。1685年，他与都统彭春、瑷珲将军萨布素合水陆军一万五千人击败俄军于雅克萨，并捣毁了雅克萨城。撤军后，俄军又重新侵入，筑城固守。刘兆麒等又从黑龙江两岸及江面以水陆军围困该城，终于迫使沙皇于康熙二十八年（1689年）与清政府签订了尼布楚条约。规定中俄两国以外兴安岭和额尔古纳河划界；毁雅克萨城，迁俄人出境。雅克萨之战制止了沙皇的扩张野心，奠定了我国东北部边界。在这场反侵略战争中，刘兆麒作为主要将领之一，率水师三次击败俄军，立下了赫赫战功。
晚年逝世
康熙三十一年（1692年），刘兆麒驻守黑龙江八年后，“边塞既靖”，遂以自己年逾六旬而又母老在堂为由，上疏请求退休，获准后还乡。
康熙三十七年（1698年），刘兆麒在家乡期间，奉命以退休大臣的身份监修北运河，工竣，恢复总督兵部尚书从一品衔名。他还捐资维修过丰台天尊阁。康熙四十七年（1708年）六月，刘兆麒在家乡逝世，终年80岁，葬于丰台刘氏家族祖茔。
刘兆麒去世后，在其履任地湖广省被崇祀为名宦，在其家乡宝坻（原丰台属宝坻所辖）被崇祀为乡贤。
有评论说他“虓如卧虎，屹若长城”，历仕三朝，为“岿然一柱”；又说他年未及老而激流勇退，“可谓报国保身两得之矣”。
