乾德二年（964年），宋太祖部署中樞與地方政權既定，時機成熟，就盡罷留用後周的范質，王溥、魏仁浦三相，任命趙普為門下侍郎、平章事、集賢殿大學士。
中書省沒有宰相簽署敕令，趙普以此為由上奏宋太祖，宋太祖說：「卿只管呈進敕令，朕為卿簽署可以嗎？」趙普說：「這是有關部門官吏的職責而已，不是帝王做的事。
」宋太祖命令翰林學士講求舊制，竇儀說：「現在皇弟任開封尹、同平章事，正是宰相的職任。
」宋太祖下令簽署權賜給趙普。
趙普任宰相後，皇上把他看作左右手，事情無論大小，都向他諮詢以後決斷。
當時，趙普兼任監修國史。
太祖命令薛居正、呂餘慶為參知政事以輔助趙普，不能宣佈皇帝的詔諭，位次列在宰相之後，不掌印，不參預上奏議事，朝會時不領班，只是奉令製作敕令而已。
原先，宰相副署敕令，都用內製，趙普任宰相後只有敕，不是原來的典章制度。
宋太祖常常便裝出行經過功臣之家，趙普每次退朝，不敢隨便穿戴。
一天，傍晚時下大雪，趙普以為宋太祖不會出來。
過了一段時間，聽見叩門聲，趙普急忙出門，宋太祖站在風雪中，趙普惶恐迎拜。
宋太祖說「已經約好晉王了。
」一會兒後趙光義來到，趙普鋪設厚墊子在地上請他們坐在堂中，在熾紅的爐火上燒肉吃。
趙普的妻子敬酒，宋太祖稱她為嫂。
於是與趙普商議攻伐太原。
趙普說：「太原地當西、北二面，太原如果攻下，則我國須單獨抵擋這兩面，不如等削平諸國以後，則太原這一彈丸黑子之地，能夠哪裏逃得掉呢？」宋太祖笑着說：「我的意思正是這樣，特地來試試你罷了。
」這番談話表明在確定所謂「先南後北」的方針上，趙普襄贊有功。
關於先南後北決策的核心，主要是統一北漢，奪取燕雲十六州是以後的事情。
就這樣，宋太祖先南後備的統一戰略得以制定。
乾德五年（967）春，加封趙普為右僕射、昭文館大學士。
突然母親去世，趙普守喪，皇帝詔令繼續到到職辦公，趙普就全太祖派遣使者到各個要道，徵召壯丁戶籍姓名送到京師，以作為守衛的預備。
在每個州府設置通判，令其負責錢糧事宜。
自此後兵精糧足，府庫充實。
開寶二年（969年）冬，趙普生病，宋太祖乘車親自到中書省看望。
開寶三年（970年）春，再次到趙普的府邸安撫慰問，賞賜錢財，增加其俸祿。
開寶六年（974年），宋太祖又一次造訪趙普府第。
正好吳越王錢俶派人送信和禮物，單子上說是「海物十瓶」，放在堂屋的左廊下。
正好宋太祖的車駕到了，趙普匆忙出去迎接，來不及遮擋禮物。
宋太祖看見，問是什麼東西，趙普回答是海物。
宋太祖說：「錢俶送來的海物，一定很好。
」就命人打開，結果發現瓶里裝的全是金瓜子（小顆粒的瓜子黃金）。
趙普很緊張，叩首道歉說：「我還沒有打開書信，實在不知道裏面是什麼，如果知道，一定會上奏皇上，拒絕掉這些東西。
」宋太祖笑着說：「儘管收下，不要過慮。
他還以為國家大事都是你擬定的呢。
」趙普收下金子，韓王在東京汴梁的府宅都是用這些金子修建的。
趙普輔政是相當專制，其他的朝臣非常忌憚他。
當時官府禁止私人販賣陝西、甘肅的大木料，趙普曾經派遣小吏到市場去買木材，連成巨大的木筏運到京城蓋房子。
這個小吏就趁機偷竊木材，打着趙普的旗號在京城賣。
權三司使趙玭廉知道了又稟告給宋太祖，宋太祖非常生氣，督促下令追查此事，想要下旨驅逐趙普，幸好有王溥上奏求情才解決了這件事情。
依照以往的舊制，宰相、樞密使每次在長春殿等候召問，一起在廬中等候；趙匡胤聽說趙普的兒子趙承宗娶樞密使李崇矩的女兒為妻，於是命令他們分開等候。
趙普又用空閒地私自換取皇家菜地來擴建自己的住宅，又經營客店謀利。
盧多遜任翰林學士，趁着趙匡胤召見時多次攻擊趙普的短處。
正好雷有鄰敲響登聞鼓，告發堂後官胡贊、李可度受賄枉法以及劉偉偽造代理官職文書而得官，王洞曾經收受李可度的賄賂，趙孚除授西川官卻稱病不到任，都受到趙普的庇護。
宋太祖大怒，下令御史府審查訊問，他們都受到處罰。
任命雷有鄰為秘書省正字。
太宋祖對趙普的恩寵漸漸疏淡了，開始下詔參知政事與趙普交替掌印、領班、奏事，來分奪趙普的權力。
不久，把趙普調出京師任河陽三城節度、檢校太傅、同平章事。
開寶九年（976年）十月，宋太祖駕崩，趙光義繼位，是為宋太宗。
太平興國二年（977年）三月，趙普自
