征伐北汉失利后，赵匡胤重新调整回“先南后北”的战略。开宝四年（971），宋朝灭掉了南汉。偏安一隅的吴越、漳泉两个小政权也早已俯首称臣。随后，赵匡胤将目光投向了南唐。此时，南唐在位的皇帝是李煜，即历史上赫赫有名的李后主。李煜才华横溢，工书善画，通音晓律，尤擅诗词，是被后世广为传诵的一代词人。无奈命运弄人，他被错误地推上了皇位，成为了历史上一位著名的亡国之君。
宋朝建立后，后主李煜立即派使者表示臣服。随着赵匡胤陆续灭掉后蜀、南汉，李煜愈加惶惶不可终日。开宝四年（971），南汉刚刚被灭，他便上表主动要求取消国号，放弃皇帝的称号，改称“江南国主”。次年，李煜又自贬仪制，改“诏”为“教”，并向宋朝纳贡。李煜的屈辱做法引起了许多朝臣的不满。他们数次上疏，甚至以死相谏，但都无法令李煜的骨头硬起来。
南唐称臣，宋朝自然是笑纳，甚至与南唐维持了多年的友好关系。其实，赵匡胤连做梦都想把南唐这块肥肉吞下。只不过在建国初期，为了消灭其他割据势力，他必须将南唐稳住。况且南唐朝廷虽软弱无能，但毕竟拥有长江天险，短时间拿下也是比较困难的。不过，自从平定南汉后，赵匡胤便开始图谋南唐。
开宝六年（973），赵匡胤派人前往南唐祝贺李煜寿辰，同时以“重修天下图经”为由，搜集了南唐的地理形势、户口等资料。次年，赵匡胤又以举行祭祀为名，企图强迫李煜到开封为人质。李煜进退两难，唯唯诺诺。开宝七年（974），赵匡胤正式发兵征讨南唐，以浮桥渡过长江天险。李煜最初认为浮桥不过儿戏，直到南唐大军被宋军大败于秦淮才如梦初醒。同年年底，赵匡胤直逼南唐都城金陵（今南京）。为了迫降李煜，宋军围困了金陵近一年时间。
李煜企图议和。然而，赵匡胤认为“卧榻之侧，岂容他人酣睡”，于是断然拒绝。开宝八年（975）十一月，金陵沦陷，李煜投降。至此，除了苟延残喘的北汉、吴越、漳泉之外，赵匡胤基本上统一了中原，结束了唐末以来的分裂局面。
沦为阶下囚的李煜，后被赵匡胤封了一个颇具侮辱性质的“违命侯”，直到宋太宗赵光义即位，才改封为陇西公。他在开封过了两年多俘虏生活，日日以泪洗脸，伤怀故国。其夫人小周后被封为郑国夫人，常常被留在宫中数日始归，每次出宫必大泣，恚骂李煜。赵匡胤能容忍得了这位时常做悲诗的前皇帝，赵光义却容忍不了。太平兴国三年（978），李煜词中的“故国不堪回首月明中”、“恰似一江春水向东流”等句惹怒了太宗赵光义，被赵光义派人以牵机药毒死。据说牵机药这种毒药十分霸道，服后全身抽搐，头脚缩在一起，死状极为凄惨。
