公元前117年，在经历了汉武帝时期三次大规模的打压战役后，匈奴势力大大减弱，不得已朝更北边的荒漠逃去。为了保护自己的民族，匈奴决定和汉朝休战。汉武帝早有就想让匈奴臣服自己，现在匈奴亲自前来讲和，当然是最好不过的。结果双方刚一谈判，汉武帝的怒火窜了上来，原来匈奴妄想汉朝每年给他们进攻粮食和金银珠宝，如果不答应的话，之前留在匈奴的汉朝使者将永远不能回到中原。汉武帝当然不可能答应，于是汉朝和匈奴的战争又持续了十多年。
公元前100年，匈奴部落产生了新单于，汉武帝打算派遣使者出使匈奴，一方面是祝贺新单于登基，另一方面是想和匈奴商量停止两国之间的战争。汉武帝选中了中郎将苏武担当使者，于是苏武带着一百多人和许多财物，浩浩荡荡朝荒漠前进。
完成出使任务后，正当苏武准备启程回汉的时候，匈奴内部却发生了混乱，苏武等人也被匈奴暂时扣留下来。单于知道苏武是个忠臣，想让他永远留在匈奴，于是劝说苏武抛弃汉朝，苏武不肯，匈奴便许诺给他封官加爵，还赏赐很多财物，都被苏武拒绝了。单于一怒之下把苏武关在一个露天的地洞里，北方的冬天特别冷，雪花大朵大朵从天上飘下来，刺骨的寒风简直能划开人的肌肉，钻进骨髓里。为了让苏武归顺，单于还下令不给苏武提供任何食物和饮水，面对这样的残酷处境，苏武仍然坚持心中的信念，绝不向匈奴屈服。口渴的时候就抓一些积雪来吃，饿了的话就从身上的羊毛袄子上扯些羊毛放进嘴里嚼着。地洞里没有可以遮挡寒风的东西，晚上只好裹着羊毛袄子缩在角落里睡觉。即便如此，苏武始终没有向匈奴低头。好几天过去后，单于看到苏武奄奄一息的样子，心里更加敬佩他，也越发想把他留下来。单于先把苏武从地洞里放出来，然后给他一群羊，把他流放到北海（今西伯利亚的贝加尔湖地区）去牧羊，以此来磨灭他的意志。单于告诉苏武，等到公羊生下来小羊，他就能回到自己的国家。
苏武带着羊群来到荒凉的贝加尔湖，周围没有一户农居，而且苏武还发现，这群羊全都是公羊，没有母羊，自然也就不可能有小羊羔出生，更不要说公羊产羊羔了。单于就是想让苏武陷入绝望的境地，打消回汉的念头。没有人来帮忙，单靠一个人的力量绝对逃不出这个地方，苏武只好喝雪水、抓野兔维持生命，每天在湖边放羊，手里紧紧地拿着那根代表汉朝使者身份的使节，晚上就睡在羊群中间。一年又一年过去了，使节上的吊坠都磨破、掉光了，苏武的头发和胡子也变白了，但他没有一天忘记自己是汉朝使者这件事，他坚信总有一天能回到自己的国家。
苏武在贝加尔湖一待就是十九年。十九年间发生了很多事情，当初扣留苏武的匈奴单于去世了，他的儿子成了新的单于；汉朝的政局也发生了变化，汉武帝死了，汉昭帝即位。新单于登基后，立刻派人向汉朝和好，汉昭帝要求首先释放这些年被扣留在匈奴的使者。
匈奴为了表示诚意，果真把关押的汉朝使者都放了出来，汉昭帝派了一位官员去匈奴迎接使者回朝。官员在众人之中没有看到苏武，便向新单于要人，单于说苏武已经死了，官员有些怀疑，但又没有证据说明单于在撒谎，只好不再问下去。就在官员和使者即将离开匈奴的一天晚上，一个曾被扣留的使者悄悄地买通了单于身边的侍从，终于得知苏武被流放在贝加尔湖放羊，使者连忙把这个消息告诉了官员。官员立刻找到单于，说汉昭帝不久前在上林苑打猎，天上突然飞来一只大雁，落在皇帝面前，大雁的脚上绑着一块布，上面写着苏武在贝加尔湖牧羊。单于听了大吃一惊，没想到苏武在那么恶劣的环境里都能得到帮助，向外界求救，以为苏武的忠诚感动了天地，于是派人把苏武接了回来。众人看到白发苍苍的苏武，都忍不住哭了起来。
公元前81年，苏武在出使匈奴十九年后，终于回到了长安，他坚贞不屈的精神令汉昭帝感慨不已，昭帝赏赐了很多财物给他。第二年，上官桀、上官安父子和桑弘羊发动叛乱，企图谋反，被昭帝镇压，苏武的儿子也参与了叛乱，苏武因此被削去官职。昭帝驾崩后，苏武和朝中一些大臣拥护汉宣帝登基，随即被宣帝封为关内侯。
公元前60年，苏武去世。他对国家的忠心永远值得后人纪念和学习。