自乾隆十二年（1747年）开始，清朝对四川大、小金川地区的征伐，使兆惠转向军事方面，有机会大展雄才。
乾隆十三年（1748年）六月，兆惠兼管户部侍郎事不久，即奉命奔赴四川前线，为清军督运粮饷。他抵川后，就显示出办事干练的才能。他看到卡撒（今四川省小金县西）周围山梁、色尔力等路贮藏的军粮仅够两月之用，就将附近的崇德、牛厂和美诺等地的存粮调运过来，以备军需。同时，他还认真地观察了清军的情状，上疏朝廷披露其弊端：“臣观军营诸将惟护军统领乌尔登、总兵哈攀龙勇往，副将下颇多庸员。
乾隆二十年（1755年）乾隆帝决定用兵伊犁，派兆惠协理军务并负责粮饷后勤。当年八月，阿睦尔撒纳反叛，将军班第、参赞鄂容安陷围殉国。形势急剧恶化。伊犁留守官兵被围，驻扎乌鲁木齐的定西将军永常闻知变讯，不仅不去救援反而将驻军后撤至巴里坤，致使被围官兵孤立无援全部牺牲。兆惠临危受命，移驻巴里坤军营兼理台站。次年初，伊犁降敌的副将军萨拉尔复归至吐鲁番，兆惠虽未受命进军，但他抓住时机立即进剿，显示了很强的主观能动性和能力。
乾隆二十一年（1756年），伊犁再次平定，兆惠被任为定边左副将军筹划善后事宜。这年冬天，准噶尔大小头目再次发动大规模叛乱，兆惠率孤军2000人驻扎伊犁。在危急之际，兆惠显出超常的胆略，他率领孤军突出重围，最终回到巴里坤大营。兆惠率孤军返回大营鼓舞了清朝官兵的士气，也使乾隆帝对兆惠有了进一步的认识，乾隆帝谕予以嘉奖，“著封一等伯，世袭罔替”。此时，兆惠侦知准噶尔头目巴雅尔等进至木垒，立即指挥官兵前往捕捉。
乾隆二十二年（1757年）春天，在清军第三次进剿时，兆惠任西路清军主帅，率军转战天山北麓，追捕逃窜各处的反叛头目，天山北麓全部平定。
乾隆二十三年（1757年），大小和卓叛乱。靖逆将军雅尔哈善率军进剿，但因指挥不利致使小和卓脱逃。乾隆皇帝令兆惠驰往代替靖逆将军平叛小和卓。兆惠奉命，轻骑赶赴阿克苏，招降阿克苏、乌什等城后留军据守，自己带兵3000余名在沙漠戈壁中长途跋涉1500余里，于乾隆二十七年（1761年）十月，进抵小和卓据守的叶尔羌城下。
叶尔羌城下的黑水营围战是清朝统一新疆过程中最为艰巨的一战。兆惠为切断大小和卓兄弟互援之势，准备渡河袭取其牧群。兆惠中了叛军之计。致使未过河的清军无法前去援救。河岸沮淤，难于驰骋，兆惠左冲右突，马中枪毙命，换马作战，马再中枪。兆惠抱着誓死决心，清军受其激励勇猛作战，经过一场浴血奋战，清军终于在天黑时回到黑水营掘壕固守。叛军连续五昼夜冲击清营，清军士兵因身处危地，所以无不拼死一战，使叛军伤亡惨重，而不能得手。于是小和卓也派兵筑长围，想要困死清军。在极度困难的条件下，兆惠率部与叛军僵持了整整3个月的时间，终于在乾隆二十四年（1758年），增援的清军陆续到达，包围黑水营的小和卓叛军在清军内外夹攻下土崩瓦解，狼狈逃窜，兆惠取得了黑水营之围的胜利。
《清史稿》：兆惠再就围中受爵，得援师克竟其功；而为之援者，前则雅尔哈善，后则富德，顾坐法不克有终。
蔡东藩：“兆惠一卤莽武夫，只知猛进，动辄被围，得一智勇兼全之敌帅，吾恐兆惠将为塞外鬼，安能生还玉门，昂然为座上公乎？”。（《清史演义》）
