單于派衛律審問虞常，讓蘇武在旁邊聽著。衛律先把虞常定了死罪，殺了；接著，又舉劍威脅張勝，張勝貪生怕死，投降了。

　　衛律對蘇武說：“你的副手有罪，你也得連坐。”

　　蘇武說：“我既沒有跟他同謀，又不是他的親屬，為什么要連坐？”

　　衛律又舉起劍威脅蘇武，蘇武不動聲色。衛律沒法，只好把舉起的劍放下來，勸蘇武說：“我也是不得已才投降匈奴的，單于待我好，封我為王，給我幾萬名的部下和滿山的牛羊，享盡富貴榮華。先生如果能夠投降匈奴，明天也跟我一樣，何必白白送掉性命呢？”

　　蘇武怒氣沖沖地站起來，說：“衛律！你是漢人的兒子，做了漢朝的臣下。你忘恩負義，背叛了父母，背叛了朝廷，厚顏無恥地做了漢奸，還有什么臉來和我說話。我決不會投降，怎么逼我也沒有用。”

　　衛律碰了一鼻子灰回去，向單于報告。單于把蘇武關在地窖里，不給他吃的喝的，想用長期折磨的辦法，逼他屈服。

　　這時候正是入冬天氣，外面下著鵝毛大雪。蘇武忍饑挨餓，渴了，就捧了一把雪止渴；餓了，扯了一些皮帶、羊皮片啃著充饑。過了幾天，居然沒有餓死。

　　單于見折磨他沒用，把他送到北海（今貝加爾湖）邊去放羊，跟他的部下常惠分隔開來，不許他們通消息，還對蘇武說：“等公羊生了小羊，才放你回去。”公羊怎么會生小羊呢，這不過是說要長期監禁他罷了。

　　蘇武到了北海，旁邊什么人都沒有，唯一和他作伴的是那根代表朝廷的旌節。匈奴不給口糧，他就掘野鼠洞里的草根充饑。日子一久，旌節上的穗子全掉了。

　　一直到了公元前８５年，匈奴的單于死了，匈奴發生內亂，分成了三個國家。新單于沒有力量再跟漢朝打仗，又打發使者來求和。那時候，漢武帝已死去，他的兒子漢昭帝即位。漢昭帝派使者到匈奴去，要單于放回蘇武，匈奴謊說蘇武已經死了。使者信以為真，就沒有再提。

　　第二次，漢使者又到匈奴去，蘇武的隨從常惠還在匈奴。他買通匈奴人，私下和漢使者見面，把蘇武在北海牧羊的情況告訴了使者。使者見了單于，嚴厲責備他說：“匈奴既然存心同漢朝和好，不應該欺騙漢朝。我們皇上在御花園射下一只大雁，雁腳上拴著一條綢子，上面寫著蘇武還活著，你怎么說他死了呢？”

　　單于聽了，嚇了一大跳。他還以為真的是蘇武的忠義感動了飛鳥，連大雁也替他送消息呢。他向使者道歉說：“蘇武確實是活著，我們把他放回去就是了。”

　　蘇武出使的時候，才四十歲。在匈奴受了十九年的折磨，胡須、頭發全白了。回到長安的那天，長安的人民都出來迎接他。他們瞧見白胡須、白頭發的蘇武手里拿著光桿子的旌節，沒有一個不受感動的，說他真是個有氣節的大丈夫。