南北朝末期，北周、突厥和陈朝三个主要政权并存。北周宣帝死后，丞相杨坚掌管朝政。公元581年二月，北周静帝禅让，杨坚登基建立隋朝，仍建都长安。当时隋朝领域大体包括长江以北，汉代长城以南，东至沿海、西达四川的广大地区。杨坚在北周和北齐的基础上，进一步采取一系列加强君主集权、发展社会经济的措施，使隋的政治、军事和经济力量日益壮大。
而江南陈朝传至后主陈叔宝时，保有长江以南、西陵峡以东到东南沿海的400余县、200余万人口。政治腐朽，上下猜忌，赋税繁重，府库空虚，刑法残暴，人民怨声载道；后主沉醉于酒色，疏于戒备，凭借长江阻遏隋军进攻。
北方突厥为游牧奴隶社会，自6世纪中期崛起，至沙钵略可汗时，控制着长城以北，贝加尔湖以南，兴安岭以西，黑海以东的辽阔地域，拥有骑兵数十万。因隋王朝停止对其和亲，不断兴兵南犯，威胁隋的统治。但当时突厥有四可汗，各拥重兵，沙钵略与阿波、达头等可汗不和，为隋制胜突厥提供了有利条件。
文帝曾准备先灭陈朝，后击突厥。突厥沙钵略可汗因其妻为北周千金公主，便以为北周复仇为借口，联合原北齐营州刺史高宝宁，于十二月攻占临榆镇（今河北抚宁东，一说今山海关）。并联络各部，准备大举攻隋。文帝根据隋朝新立，边防不固，实力尚不够充实等情况，决定变更原来计划，改取南和北战，先败突厥，后灭陈朝的战略。583年四月隋文帝兵分八路，对突厥发动反击。并且用长孙晟的离间之计，最后使突厥汗国分裂为东突厥与西突厥两部，让四可汗为了汗位自相残杀。584年沙钵略可汗因为对隋作战不利，向隋朝求和。至此北部边患基本消除，解除了南下灭陈的后顾之忧。
隋文帝加紧灭陈准备。继续推行均田制和租调力役制，在中央建立三省六部制，在地方推行州、县制，改革府兵制等措施，以利于发展社会经济，加强中央集权，提高军队战斗力。又经过几年励精图治，国力、军力显著增强。开皇五年十月，文帝以清河公杨素为倌州总管，经略长江上游。同时在三年内，动员数十万人修缮朔方（治岩绿，今内蒙古乌审旗南白城子）、灵武（治回乐，今宁夏灵武西南）一带长城，并于朔方以东缘边险要，筑城数十，以加强北部边防，保障南进时后方无忧。
隋文帝经过数年准备后，终于决定遣兵灭陈以完成一统。公元587年（开皇七年），废西梁后主萧琮，占领江陵，西梁亡。同年十一月，隋文帝与宰臣谋议伐陈之策。尚书左仆射高颎提出：“在江南收获季节，以少数兵力，声言进袭，迫陈集兵守御，以误其农时；彼既聚兵，我便解甲，如此多次，使陈军习以为常，麻痹懈怠，然后举兵渡江，登陆攻击，派人潜入陈境，反复纵火，焚其储备物资，使其财力俱尽。”
虢州刺史崔仲方提出：“在武昌（今湖北鄂州）以东沿江各要地部署精兵，秘密准备渡江，在益（治今成都）、信（治今四川奉节东）、襄（治今湖北襄樊）、荆（治今湖北江陵）等地速造战船，准备水战；陈如以精兵赴援上游，下游诸将即可乘虚渡江，如陈拥兵自卫，上游诸军则可顺江东下，直取建康（今南京）。”
杨素、贺若弼等也争献平陈之策。隋文帝均予以采纳。攻陈前，隋令介州刺史李衍在襄州道、杨素于巴东郡（治今四川奉节东）建造“五牙”（装有拍竿的大型战舰）、“黄龙”等战船，加强水师。故意在江中漂下造船废料，以威慑陈人。贺若弼卖掉老马，大量购买陈船，藏匿起来，又买破旧船只五六十艘，泊于小河，使陈军以为隋军没有战船。多次将换防士兵集于广陵，大张旗帜，营幕遍野，还使士卒沿江射猎，人马喧噪，以迷惑陈军，使之不加戒备。
公元588年（开皇八年）三月，隋文帝下诏，列举陈后主罪行又送玺书暴其罪恶二十条，并将诏书在江南散发三十万份，以争取人心。
同年十月设置淮南行省於寿春，以晋王杨广为尚书令统筹各路兵马，以高熲为元帅长史决断行军谋略，率八十总管、五十一万八千名士兵南征。
这八路分为中上游与下游两部，行军元帅秦王杨俊统帅中上游三路，他率水陆军由襄阳进屯汉口，以阻挡中游陈军支援下游南朝陈首都建康。行军元帅清河公杨素率舟师出永安（今四川奉节）东下，荆州刺史刘仁恩出江陵与杨素会和，最后抵达汉口与杨俊军会和。杨素与刘仁恩军负责驱赶长江中游一带的陈军到汉口围歼。
行军元帅杨广统帅下游五路，他率领韩擒虎、贺若弼专攻建康，命王世积与燕荣为左右翼协攻江西、三吴。杨广率军出六合，庐州总管韩擒虎出庐江（今安徽合肥），吴州总管贺若弼出广陵（今江苏扬州），这三路集中围攻建康。蕲州刺史王世积率舟师出蕲春（今湖北蕲春北）攻九江掩护杨广主力军。青州总管燕荣率舟师出东海（今江苏连云港）沿海迂回南下入太湖，以奇袭吴县（今江苏苏州），深入三吴以支援杨广主力军。隋廷在进军之前，扣留陈使，断绝往来，以保守军事机密。并且派出大批间谍潜入陈境，进行破坏、扰乱活动。
陈后主荒淫骄侈，政治腐败，既不懂军事，又不纳部将建议，自恃“长江天堑”，疏于防务。为了元会（即春节）之庆，竟命镇守缘江重镇江州（治今江西九江）、南徐州（治今江苏镇江）的两个儿子率战船回建康，致使江防更为薄弱。十二月，长江上游隋军首先发起进攻。
公元588年（开皇八年）十二月，杨俊督水陆军十余万出襄阳（今属湖北），进屯汉口（今湖北汉水入长江之口）。陈命散骑常侍周罗喉都督巴峡缘江军事，与郢州刺史荀法尚部数万，据守江夏，同杨俊军相峙月余。
同月，隋行军总管周法尚率舟师三万，进至樊口（今湖北鄂州西），击破抗拒的陈军。杨素率水军出巴东，沿三峡东进，荆州刺史刘仁恩部由江陵西上，两军配合，水陆兼用，袭占狼尾滩（今湖北宜昌西北），击败陈守将戚昕；陈南康内史吕忠肃死守歧亭（今湖北宜昌西北西陵峡口），以三条铁锁横江阻断隋军东出三峡，使得隋军一度遭受重创，死亡五千人，陈军争割其鼻求功赏。杨素、刘仁恩率水陆联军强攻，直到公元589年（开皇九年）正月击破陈军，占领西陵峡口。
陈荆州刺史陈慧纪屯公安（今湖北公安西北），见大势已去，便率军三万、楼船千余艘，顺江东走，企图入援建康，却与周罗睺被杨俊军阻于汉口以西，陈军最后无法救援建康。杨素继以主力沿江东下，与杨俊军会师汉口，另派刘仁恩部南下湘州（治今湖南长沙），击擒陈岳阳王陈叔慎，至此长江中游已非陈国所有。
当隋军陆续占领长江上游的消息传到建康时，均被朝廷掌管机密的施文庆、沈客卿扣压，使得建康城毫无防备。隋军进至长江北岸时，施文庆又以元会（春节）将至，拒绝出兵加强京口（今江苏镇江）、采石（今安徽马鞍山市西南），等地军备。
公元589年（开皇九年）正月初一，长江下游隋军乘陈欢度元会之际，分路渡江。贺若弼军出广陵南渡，韩擒虎军出庐江由横江口（今安徽和县东南）夜渡，袭占采石（今安徽马鞍山市西南），晋王杨广军出六合（今属江苏）进屯桃叶山（今六合东南）。初四，陈叔宝察觉事态不利，下诏亲帅陈军拒敌。命骠骑将军萧摩诃、护军将军樊毅、中领军鲁广达并为都督；又派南豫州刺史樊猛率水军坚守白下（今南京城北金川门外），抵御六合方面隋军；以散骑常侍皋文奏率部镇守南豫州（治姑熟，今安徽当涂）。隋军突破长江防线后积极推进，初六，贺若弼军攻占京口（今江苏镇江），俘南徐州刺史黄恪。所俘六千余人，均优待释放。随后贺若弼以一部进屯曲阿（今江苏丹阳），以防三吴（今江苏太湖以东、以南和浙江绍兴等）陈军增援，自率主力西进；韩擒虎军于初七攻占姑熟，沿江东进，皋文奏军败退建康。
隋军渡长江后积极推进，贺若弼於京口派一部隋军於曲阿（今江苏丹阳）阻挡三吴地区（今江苏太湖以东、以南和浙江绍兴等）的陈军北援，主力持续向建康前进；韩擒虎击败陈军，占领姑孰（今安徽当涂）后，沿江直下，皋文奏败退建康。正月初七日，贺若弼进屯钟山（今南京紫金山）以南的白土岗；韩擒虎和由南陵（今安徽铜陵附近）渡江的杜彦军在新林（今南京西南）会合；宇文述军於白下击败陈军后，进占石头城（在今南京城西清凉山）。隋军占领建康外围城市，完整包围南朝陈的首都。为配合隋军主力进攻，王世积军也成功由蕲春攻占蕲口（今蕲春西南），大败陈将纪填，逼近江西鄱阳湖。燕荣水师也由山东沿海南下，占领三吴地区。
建康地势虎踞龙盤，向称险要，在建康附近的陈军仍然有十万。然而陈后主不采纳部将建议，乘隋军包围之际切割敌军。他放弃钟山、石头等险地，将主力固守建康城内外，白白的让隋军包围建康城。贺若弼至京口时，萧摩诃请求出战，陈后主不准。而后萧摩诃得知陈后主竟和他的妻子私通，就也拥兵不前，唯独让鲁广达、田瑞奋勇作战。15日，陈镇东大将军任忠率军自吴兴（今浙江湖州南）入援建康，陈后主也只让他驻守朱雀门（建康城南门宣阳门南2.5里）。
589年1月20日，陈后主在「兵久不决，令人腹烦」的情况下，对贺若弼军发动白土冈之战。他仓促的派鲁广达、任忠、樊毅、孔范与萧摩诃率军出战，於白土冈南北列长蛇阵20里，首尾进退互不相知。贺若弼军初战不利，然后集中攻破薄弱的孔范军。陈军全线溃退，贺若弼从北掖门攻入台城（建康宫城）。韩擒虎军占领秦淮河南岸石子冈（今江苏南京雨花台）后，陈将任忠请降，开北岸朱雀门迎韩擒虎入城。当时陈后主身边大臣只有尚书左仆射袁宪一人。袁宪建议如同梁武帝见侯景故事，庄严的向隋军投降。但是陈后主畏惧而不从，与爱妃张丽华、孔贵人躲到枯井里面。最后被韩擒虎俘虏，陈灭亡。当夜，贺若弼军也从北掖门入城。
建康被隋军攻下后，南朝陈尚领有长江中游、三吴与岭南地区。589年1月22日，杨广进入建康，命令陈后主发令招降各地陈军投降。坚守江夏的周罗睺、陈慧纪与守备长江中游诸城的守将陆续投降，三吴地区的吴州（今江苏吴县）、会稽（今浙江绍兴市）二城坚守拒降，岭南守将徐璒阻挡隋使韦洸於南康前，不愿意归附隋朝。于是杨广率军南下三吴、岭南等地，各地陈军或受陈后主号令投降、或抵抗隋军而被消灭。
岭南地区早在南朝梁侯景之乱时，就受冼夫人控制。冼夫人率兵击破梁高州刺史李迁仕后掌控岭南，并与都督陈霸先合作。陈霸先后来创建陈朝后。冼夫人多次平定叛乱，保境安民，被当地俚汉人尊为“圣母”。杨广得知此事后，命令陈后主致书冼夫人，使其归隋。为了证明是真的，还将冼夫人曾经献给陈帝的扶南犀杖及陈后主的兵符给她确认。冼夫人见到信及物件后，确定陈朝已亡，便派孙子冯魂迎隋使韦洸到岭南。各地至此才闻风归附，从此全部归隋朝管辖。
至此，隋文帝完成了大一统，成功结束纷乱近400年的魏晋南北朝时期。
贺若弼和韩擒虎在隋文帝面前争论谁的功大，贺若弼说：“我在蒋山拚死鏖战，打垮了陈朝的精锐部队，俘虏了陈朝骁将萧摩诃、鲁宗达等人，打出了国威和军威，于是才平定了陈国。而韩擒虎和陈朝军队几乎没有交锋过，怎么能与我相比！”韩擒虎说：“本来接到明确指示，令我和贺若弼同时合兵攻打陈朝都城，可是贺若弼竟敢独自提前进军，遭逢敌军便投入决战，以致于所部将士伤亡很大。而我率领轻装骑兵五百人，兵不血刃，直取金陵，降服了任忠，抓获了陈叔宝，占领了陈朝的府库，捣毁了陈后主盘据的老窝。贺若弼直到傍晚才进至北掖门，是我打开城门让他入的，贺若弼赎罪还来不及，怎么能与我相比！”隋文帝说：“两位将军都立了上等功勋。”于是进级授予韩擒虎上柱国，赏赐布帛八千段。有关官吏弹劾说韩擒虎放纵士卒，奸淫陈朝宫女，因此不崐加封爵邑。
后来突厥的使节来长安朝见，隋文帝对他说：“你听说过江南的陈国天子吗？”突厥使节回答说：“听说过。”隋文帝传令左右侍从带领突厥使节到韩擒虎跟前，对他说：“这位就是抓获陈国天子的将军。”韩擒虎威严地看着突厥使节，突厥使节十分惊恐，不敢抬头看他。
隋灭陈的作战，仅经2月之余，便将立国30多年的南陈一举灭亡，接收陈朝土地共三十州、一百郡与四百县，以及这片土地上的人民和财富。至此，结束了古代中国自东晋十六国以来270多年分裂割据、战乱不止的局面，使中华大地重新统一于中央政权之下，这是隋王朝对中国历史发展做出的重大贡献。
此外，隋朝把陈后主和文武官员、衣冠世族、百工杂技以及乘服、图藉与法物等，运送到隋朝首都大兴城（今陕西西安市），运送的行列，前后达五百里。自晋室南渡后在江南保存两百多年的中国正统文物，至此重返北方。
偏居江左的陈王朝的灭亡固然有其诸多方面的原因，但最基本的不外三个方面：
陈统治集团的腐朽没落，争权夺利，抵消了抗御外敌进袭的能力。陈后主沉迷酒色，放纵淫荡至几乎不理朝政的程度，朝中的大权，皆操于江总、施文庆、沈客卿、孔范等人之手，这些人专以谄媚营私、争权夺利、排斥忠良为己任。这样，以陈后主为首的统治集团已处于醉生梦死、坐以待毙的昏昏然之中。当隋大军压境之时，陈后主还与满朝文武共庆初一元会。当京口守军受到隋军的进攻，紧急向陈后主告急时，陈后主竟置之不顾，继续饮酒作乐。将军萧摩诃请求率军出战，后主亦不答应，其昏庸愚笨至此，自然难逃灭顶之灾。
陈王朝面对隋军的进攻，虽战略上处于被动守势地位，但隋军渡江总兵力至双方最后决战时仍不足6万人，而陈军此时尚有号称10万之众，若陈能部署得当，调度有方，拼力死战，胜败属谁，则定当别论。但陈王朝在战略指导上却一错再错，坐失战机。当隋将贺若弼仅率8000士卒进击京口，势孤力单之时，陈后主如采纳将军萧摩诃的建议，令其率军猛击，贺若弼部必然凶多吉少；当隋军初步形成对建康的包围态势之时，陈后主又拒绝了将军任忠、司马消难等人断敌退路，持重待机，坚守拒战的建议；当决定与隋军最后决战时，陈后主竟将大军排成一字阵势，绵亘20多里，不指定将帅，各军互不相属，进退攻守各不相知。终于被隋军各个击破，使自己的优势之军，眼睁睁地化做了败兵之旅。
文帝早在决心灭陈之前，便秘密征询一些亲信大臣的意见，多方进行谋划，使陈每每中计，形同隋军手中的“玩偶”。大臣高顾提出的破坏陈国农业生产和派间谍潜入江南烧毁陈军的储粮以及多次乘陈国收割庄稼之际，摆出调集兵马佯示大举渡江以麻弊懈怠陈军的种种谋略，均在灭陈战争中起了无可估量的作用。大臣崔仲方所献灭陈分为上中游和下游两个战略方向作战的计划，使陈国从战争开始即陷于大江上中游不利救援京师，京师也不利派兵增援上中游的极为被动的境地。将军贺若弼以演习和沿江狩猎成功地造成了陈军的错觉，更是令人称奇。而陈军竟不懂“兵不厌诈”的基本常识，一而再、再而三地中计受骗，其兵败国亡自然也就属顺理成章之事了。
此战是继晋灭吴之后，中国战争史上第二次大规模的渡江作战。隋朝水军虽然不象西晋灭吴时“王浚楼船下益州”那样声势浩大，直捣石头城，但也在战略上起了牵制和配合作用。在8路大军中，3路是水军，1路是水陆联军。杨素率领的水军出水安沿长江东下，在杨俊率领的水陆军配合下，斩关夺隘，攻城略地，占领了长江上游的广阔地域，牵制了上游的3万陈军，战船千艘，使其无法东援建康。在长江中下游地区，王世积统率的水军居中策应，控制了江西地区，从建康的西南侧翼直接配合主力攻占建康。燕荣一路水军则进行远程战略迂回，掩护主力的东南侧翼，并造成对陈都的合围之势。左仆射高颖也率一部水军迫降了护卫京城的陈朝水军。总之，几路水军都以自己的出色行动为最后决战的胜利作出了贡献。
