赵匡胤下令宋军会同吴越国主钱傲统帅的吴越军兵分三路，从北、南、西三面向南唐进攻。
在宋军进兵之前，南唐有个书生樊若水，因屡试不第，上书言事也没被李煜理睬，决定北投大宋。他在采石矾以钓鱼作掩护，经过反复探测，精确地计算出长江的宽度、水深、流速等各种数据，然后向赵匡胤献上在长江架浮桥之策。赵匡胤正愁北宋太军无法渡江，见到樊若水。马上赐他为进士及第，封为赞善大夫，并按照他的设计打造战舰，做好了渡江的准备。当总攻发起后，江北宋军通过采石矾浮桥，渡过长江天堑。李煜根本没想到能在水深江阔的长江上搭桥。等他发现时，国都金陵已处于宋军的重重包围之中了。
在李煜仍不投降的情况下，宋军攻陷金陵城。李煜在宫内堆积了一大堆柴火，发誓与社稷共存亡，到时赴火就义。可他又没有自杀的勇气。当曹彬率军杀进宫时，为保命还是投降了。
灭南唐是赵匡胤统一南方的最后一仗，也是当时最大的一次江河作战。这次战争中的“浮桥渡江”、“围城打援”，是赵匡胤战略部署中的得意之举，也是古代战争史上的创举。
公元967年，赵匡胤死去，宋大宗按照赵匡胤的既定方针，继续对吴越和漳泉施加压力，终于不动干戈，迫使钱饭和陈洪纳表献土，归降北宋，南方完全统一。随后，宋太宗一鼓作气，灭亡北汉，延续了数十年之久的分裂割据局面终于结束了，除了辽所控制的燕云十六州以外，汉族所聚居的中原地区和南方的广大区域重新获得了统一。
在南北用兵、统一全国的同时，赵匡胤还采取了一系列措施，巩固和加强了专制主义中央集权，进而创立了一整套为其后代奉若圭臬的“祖宗家法”。
赵匡胤出生在五代十国群雄割据的年代，他非常清楚地方军阀只要拥有重兵，便可黄袍加身的无耻行径，包括他自己，都是在拥有兵权后，方才篡位自立，进而取得天下。因此，赵匡胤在称帝伊始，首先就是削夺手握重兵的将领和地方节度使的兵权，这个他已经通过“杯酒释兵权”的方法加以解决，并派文官出任地方官吏，将兵权收归中央。在任命文官为地方官吏的同时，赵匡胤又害怕这些地方官吏在当地待的时间过长而拥有自己的势力，因而又下令地方官吏在一个地方任职不得超过三年，随后又收夺地方上的财权，要求各州除留有必要的经费外，其余财赋中属于货币的部分应全部送到京城，不得无故占留。
地方丧失了财权，自然也就无法屯兵自重了。赵匡胤为收地方精兵而创立的兵分禁、厢的制度，也为其后代一直沿袭下来，成为两宋兵制中的一大特色。
在他看来，地方权力集中到朝廷，还没有完全解决唐中期至五代以来“君弱臣强”的问题，因而进一步采取措施，削弱大臣的权力，使权力完全集中到自己一人手中。
他采取的措施之一便是削弱宰相在朝廷中的地位，削夺相权。随后又在百官中推行“官、职分离，互相牵制”的任官政策。宋代官制中，“官”是品级，“职”是殿阁、馆阁学士一类的荣誉称号，亦没有实际权力，只有由皇帝或中书省“差遣”的临时职务才是实职，即执行实际权力的职务。这种职、权分离，名、实混淆的任官体制，使任何官员都无法集权力、荣誉、威望于一身，权大者并不一定职高，望重者并不一定位显，这就很难形成对皇权的威胁。同样，即使是临时“差遣”的实职，也是按照分权而相互牵制的原则进行安排的。
赵匡胤还在隋唐以来的科举考试制度的基础上加以继承、改革和发展。并规定殿试不再有淘汰制度，只要参加过殿试，都可以有做官的机会，并称其为“天子门生”，即皇帝亲自测试的人都拜皇帝为师，自称是皇帝的门生。同时，赵匡胤还着力改变重武轻文的旧风气。下令修复孔庙，开辟儒馆，沿用老学名儒，以劝励教化。赵匡胤认为，乱世用武，治世用文，对进入朝廷的文臣再也不能只是当作点缀摆设，而应切实发挥他们的作用。
随着对文臣的重用，统治集团内部的那种畸形的文武关系得到了调整。原来那些骄横跋扈，视文臣为无用，甚至一言不合就要“砍杀”宰相的武将们不但见了宰相都要恭恭敬敬地寒暄问候，而且自己也在赵匡胤的劝告鼓励下，学着文臣的样子读起书来。
这样，一方面是调整中央与地方、君主与臣下的关系，使地方的行政、财政、军事等各方面的权力不断地向中央集中，最后又集中到皇帝一个人手中，形成了至高无上的君主集权制；另一方面又开科取士，重文用武，广罗人才，极力扩大这一专制统治的基础。在统一大局已定的情况下，赵匡胤并没有志满意得、忘乎所以，更没有因此而骄逸放纵。这在皇帝中也是非常难得的了。
南征北伐，一统天下
宋朝建国，所统治的地方只有黄河、淮河流域一带，宋朝北面有北汉和契丹，西面有后蜀，南面有南唐、吴越、荆南、湖南、南汉各国，每一个国家都有独立的势力，而且他们也都在窥视宋朝的态度。在此虎视眈眈的情况下，使宋朝不能高枕无忧，必须把这些小国或外族，消灭或制服，才能完成天下的统一，奠立宋朝国基。
在一个大雪纷飞的夜晚，赵匡胤与宰相赵普进行了一场意义重大的对话。
赵普问道：“夜深天冷的，陛下为什么还出来？”
赵匡胤：“我睡不着呵！一榻之外，都是别人家的天下，所以特地来见见你。”
赵普：“陛下是否觉得自己的天下过于狭小？南征北伐，一统天下，现在是极好的时机，不知陛下在进军方向问题上是怎样考虑的。”
赵匡胤故意说：“我想先攻打北汉国都太原。”
赵普默良久之后，说：“这我就不明白了。”
赵匡胤问：“为什么？”
赵普分析道：北汉有契丹为后援，攻之有害无利，即使灭亡了北汉，又要独自承担契丹的强大压力，倒不如先保存北汉，以为阻隔契丹的屏蔽，集中力量翦灭南方各国，然后再专力北方。
赵普的话，使赵匡胤最后确定了“先南后北”、“先易后难”的战略方针，这件事，就是历史上著名的“雪夜定策”。
宋太祖登基不久，湖南的周行逢病死，其子周保权是个十一岁的小娃娃，继位之后，其属下“衡州刺史”张文表反叛，也想割据一方。由此，宋朝打着“救援”的旗号，要借道荆南（南平）。师行一半，张文表已经被杀，宋军仍强行前驱，派出一股奇军直驱江陵，南平嗣主高继冲知道大势已去，只得举族“入朝”，献出高家割据数十年的三州十七县。不久，宋军一路横进，攻克潭州（今湖南长沙），进围朗州（今湖南常德），最终把先前向宋朝求救的周保权也生俘，尽取湖南十四州土地。至此，荆湖之地全入宋土，成为宋朝一个大粮仓，从物质上保障了宋军下一步军事目标。
后来，赵匡胤发兵5万（一说6万），分两路攻蜀：令王全斌、崔彦进为西川行管凤州路正、副都部署，王仁赡为都监，率北路步骑3万出风州（今陕西凤县东北），沿嘉陵江南下；令刘光义为归州路副都部署，曹彬为都监，率东路步骑2万出归州（今湖北秭归），溯江而上。两路分进合击，直指成都。赵匡胤利用蜀降将赵彦韬提供的情报，针对巴蜀有嘉陵江、长江直贯南北、东西的地形特点和蜀军防务上兵力不足的弱点，采取东、北两路沿长江、嘉陵江分进合击的部署。刘光义在夔州，针对蜀军锁江设防，水强陆弱的情况，适时舍舟登岸，先夺取两岸，然后水陆配合，一举突破蜀军利用浮梁所组织的防御要点，接着沿长江长驱直入。北路主将王全斌善于迂回、夹击，避坚击瑕，迅速地攻占利州。又用奇兵出至敌后，因而能较快地突破剑阁险隘，在东路军的配合下直逼成都。乾德三年正月初七，孟昶见大势已去，举城降，后蜀亡。
开宝二年九月，宋太祖派李继勋率兵攻北汉，因契丹军来援，无功而返。十月太祖亲征北汉。宋军筑长连城围攻太原，北汉大将刘继业（即杨业，杨老令公）出城犯宋东西砦，败还，辽军分两路援救北汉，一路自石岭关入，为宋军败于阳曲。后来，太原城水灾，城中惊恐，大臣郭无欲谋降宋，被杀，契丹再派兵驰援北汉，太原得以保住。宋军则因屯兵太原城下，久攻不克，损兵折将，又因暑雨，士卒多病，遂班师。北汉尽得未所弃军储，共计粟三万石，茶、绢各数万，总计太祖共在开宝元年、二年，及九年三次攻打北汉，均因辽军来援，顿兵太原城，久攻不克而还。
在当年，南汉以广州为中心，割据岭南两广地区达60年之久。北宋平定后蜀后，潘美等宋将就曾攻取了南汉的郴州，形成了良好的进攻态势。
这一年，潘美等接到宋太祖灭亡南汉的指示后，很快就攻陷了贺州，随之连克昭、杜、连、韶4州，大败南汉军10余万于莲花峰下。至次年2月，即攻克广州，南汉灭亡。
南汉灭亡之后，南方剩下的最后3个割据政权个个自危，震恐异常。势力最强大的南唐皇帝李煜这时也不得不主动要求取消国号，放弃皇帝的称号，改称“江南国主”。另外两个割据政权吴越和漳泉早就上表称臣，接受宋朝的官职。
宋灭南汉之后，从北、西、南三面对南唐形成战略包围。宋太祖志在统一江南，认为“卧榻之侧，岂容他人鼾睡”，绝不允许南唐存在下去。经过3年的准备，开宝七年（974年）十月，宋太祖令曹彬为统帅、潘美为都监，率水、步、骑兵在采石一线强行渡江，进围金陵；同时令吴越国主钱俶统率吴越军5万，由宋将丁德裕监军，从东面攻取长州，然后会师金陵；令王明为西路军，向武昌方向进击，牵制屯驻在江西的南唐军队，使其无法东下援救金陵。
宋军依照樊若水的图示在采石用预先造好的战舰架设浮桥获得成功，其主力部队通过浮桥，顺利跨过了长江天险，大败南唐水陆兵10余万于秦淮，直逼金陵城下。与此同时，钱俶率兵攻克了长州、江阴、润州，形成了对金陵的外线包围，金陵成了一座孤城。十一月二十七日，在李煜仍不投降的情况下，宋军发起总攻，金陵城破，李煜做了俘虏。
灭南唐是宋太祖统一南方的最后一仗，也是当时最大的一次江河作战。这次战争中的“浮桥渡江”、“围城打援”，是宋太祖战略部署中的得意之举，也是古代战争史上的创举。
赵匡胤大战二龙王
传说，宋太祖赵匡胤做了皇帝以后，为了统一中原，消灭叛逆，他亲帅军队南征北战，东讨西伐。这一日，他率军至临淄地境，走到距临淄齐国故城西南二十余里的一座山下，忽听“啷啷”一声锣声响，“呼啦啦”从山上冲下来一哨人马，摆开阵势，挡住了去路。原来，这座山叫草山山上有一个号称“二龙王”的山寇。近来，二龙王听说宋太祖赵的兵马要路经此地，军中有不少粮草辎重，便起贪心，令人打探清楚，做好准备，单等赵的大军到来，掳其粮草辎重。
赵匡胤听说前面有人断路，不由气往上撞，心想：我身为大宋皇帝，亲率大军，讨伐叛逆，所到之处，无不闻风丧胆，献城降服，何况这区区山贼小寇，竟不知天高地厚，要拦我去路，断我粮草，这还了得。于是手提大砍刀，纵马来到阵前，与二龙王刀枪往来，杀在了一处。他们两人从早晨阵到中午，又从中午战到日薄西山，仍不分胜负，赵心中着急，暗想：我要统一中原，建立大业，却连一个小小的山寇也胜不过，岂不让人耻笑。于是使出了浑身解数，想打败二龙王。怎奈二龙王一心想夺赵的粮草辎重，却也愈战愈勇，毫无惧色。一杆枪上上下下，如银蛇狂舞。赵匡胤反倒觉得手中的刀好象加重了许多，身上汗水直流，渐渐地，只有招架之力，没了还手之功。赵匡胤明白，这样再战下去，自己非吃亏不可，待要败阵回营，又恐二龙王趁势指挥喽啰冲杀，乱了宋营的阵脚，只得虚晃一刀，两腿用力把马一夹，那马是赵匡胤使唤惯了的，知道主人要走，便撒开四蹄，落荒而去。
赵匡胤生怕二龙王追来，打马如飞，一口气不知跑出有多远，听了听身后没有声音，知道二龙王没有追赶，这才放下心来。赵匡胤与二龙王大战了一天，水米没沾牙，此时已是精疲力竭，肚里咕咕叫，浑身像散了架一样，用手摸一摸马背，湿漉漉的，跟刚从水里捞上来一样，马的身体不住地颤抖。赵匡胤明白：马也累得不行了，便慢慢下了马，把马缰绳往马背上一搭，让马自己去歇息，寻草吃，自己也顾不得肚中饥饿，见旁边有一块大青石板，便把大刀往边上一横，卸下身上的战袍衣甲，一骨碌躺在青石板上，伸开四肢，休息一会。他实在太困了，一合眼，竟不知不觉呼呼大睡过去。
