明太祖在統一戰爭中，依靠了一批英勇善戰的將領爭城奪地：又吸收了一些謀士，幫他出謀劃策。在這些謀士中，劉基是最著名的一個。

　　劉基又叫劉伯溫，本來是元朝的官員，因為對元朝的政治腐敗不滿意，常常寫點文章，諷刺時事，后來，被解職回到他的家鄉青田（在今浙江）。朱元璋的軍隊打到浙東的時候，把劉基請了出來，當他的謀士。在打敗陳友諒、張士誠的戰爭中，劉基出了不少計策。由于他足智多謀，得到明太祖的信任。明太祖把他比做西漢初年的張良。

　　劉基不但謀略好，而且精通天文。在古代，往往把天文現象跟人間的吉兇扯在一起。劉基對天下形勢觀察仔細，考慮問題周到，他的預見往往比較準確。但是大家都認為這跟他精通天文有關。民間傳說把劉伯溫看作一個“未卜先知”的人物。

　　朱元璋當吳王的時候，江南發生了一場旱災。劉基掌管天文，朱元璋問他為什么發生大旱，怎樣才能求上天下雨。劉基說：“天一直不下雨，因為牢獄里關押的人有冤枉。”

　　朱元璋信了劉基的話，派他去查牢監里關的犯人。劉基一查，果然有不少冤案。他向朱元璋奏明后，平反了冤案，把錯抓的人放了。

　　求雨和平反本來是毫不相干的兩碼事。劉基也不可能有求雨的法術。不過他懂得天文，可能觀測到氣象要發生變化，就借這個機會勸諫朱元璋平反冤案。果然不出幾天，烏云密布，接著就下了一場透雨。劉基趁朱元璋高興的時候，又勸他制定法律，依法辦事，防止錯殺無辜的人。

　　明太祖即位以后，叫劉基做御史中丞，負責司法工作。劉基嚴格執法。有一次，丞相李善長的一個親信犯了法。李善長是明王朝開國功臣，又是明太祖的同鄉，勢力很大。但是劉基不顧李善長的阻撓，奏明明太祖，把那個親信殺了。這件事當然招來了李善長的怨恨。