从宋太祖取得政权开始，到平定南方，赵普是主要的谋士，立了不少大功。宋太祖拜赵普为宰相，事无大小，都跟赵普商量。
赵普出身小吏，比起一般文臣来，他的学问差得多。他当上宰相以后，宋太祖劝他读点书。赵普每次回家，就关起房门，从书箱里取出书认真诵读。第二天上朝处理政事，总是十分敏捷。后来，家里人发现，他的书箱里藏的不过是一部《论语》。于是人们就流传一种说法，说赵普是靠“半部《论语》
治天下”的。
宋太祖信任赵普，赵普也敢于在宋太祖面前坚持自己的意见。有一次，赵普向宋太祖推荐一个人做官。接连两天，宋太祖没有同意。第三天赵普上朝的时候，又送上奏章，坚持要求宋太祖同意他的推荐，这下可触怒了宋太祖。宋太祖把奏章撕成两半，扔在地上。赵普趴在地上，不慌不忙地把扯碎的奏章拾起来，放在袖子里。退朝回家以后，赵普把扯碎的奏章粘接起来，过了几天，又带着它上朝交给宋太祖。宋太祖见赵普态度这样坚决，只好接受了他的意见。
再有一次，赵普要提拔一名官员，宋太祖不批准。赵普就像前次一样坚持自己的意见。宋太祖说：“我就是不准，你能怎么样？”赵普说：“提拔人才，都是为国家着想，陛下怎能凭个人的好恶专断！”宋太祖听了，气得脸色变白，一甩袖就往内宫走。赵普紧紧跟在后面。宋太祖进了内宫，赵普就站在宫门外不走。宫门前的卫士见宰相站在门口不走，只好向宋太祖禀报。这时候宋太祖的气已经平了，就叫太监通知他，说皇上已经同意他的请求，叫他回家。
赵普做了十年宰相，权力很大。日子久了，就有人想走他的门路，不时有人给他送礼物来。而宋太祖经常到赵普家里去，事先也不派人通知。有一次，吴越王钱俶派个使者送信给赵普，还捎带了十坛“海产”。赵普把十坛“海产”放在堂前，还没来得及拆信，正好宋太祖到了。
宋太祖在厅堂里坐下，看到这十只坛，就问赵普是什么东西。
赵普回答说：“是吴越送来的海产。”宋太祖笑着说：“既然是吴越送来的海产，一定不错，把它打开来看看吧！”
赵普吩咐仆人，打开坛盖，在场的人一看都傻了眼。原来坛里放的不是什么海产，竟是一块块金子。
宋太祖向来怕官员接受贿赂，滥用权力。看到这情况，他心里窝了一肚子火，脸色也就沉了下来。
赵普满头大汗，惶恐地向宋太祖请罪，说：“臣没有看信，实在不知道里面是什么东西，请陛下恕罪。”宋太祖冷冷地说：“你就收下吧！他们以为国家大事都是由你们书生决定的呢。”
打这以后，宋太祖对赵普就有点猜疑起来。不久，又有官员告发赵普违反禁令，贩运木料。原来，当时朝廷禁止私运秦、陇（今陕西、甘肃一带）大木，而赵普曾经到那里运木料为自己造住宅。他的部下趁机冒用赵普名义，私运一批大木到东京贩卖，这件事牵连到赵普。
宋太祖大怒，要治赵普的罪，尽管其他大臣为他说情，宋太祖还是撤了赵普的宰相之职。
