武帝穷其一生的努力，将匈奴人打怕了，却并没有将它打死。而只要有一口气在，匈奴人便如原上草一般，“春风吹又生”，所以很快地，恢复力量的他们再次向着南方的汉朝卷土重来。

公元前101年，匈奴新单于即位，希望与大汉王朝重归于好，并富有诚意地把过去拘留的中国使节，一并遣回长安。汉王朝接受其诚意，于是第二年，汉匈之间就恢复邦交，大汉派遣正使苏武、副使张胜赴匈奴汗国报聘，以此获取两国之间的长期友好。

然而，历史上总会有一些棋子，会在关键时刻，影响到全局的亏赢胜败，这个棋子就是张胜。张胜在到达匈奴帝国之后，与一起投降匈奴的汉人合谋，密谋乘匈奴单于外出打猎之机，杀掉匈奴的智囊卫律，然后劫持单于的母亲，逃回大汉，立下不世奇功。虽然从个人角度出发，此计划并不光彩，然而出于汉匈之间的利益，则显示出了张胜为国的勇略。可惜，后来的一系列变故，张胜的如意算盘完全落空了。他完全低估了匈奴单于的警惕，在他到达匈奴之后，单于就对汉朝使者有所防范，所以他的所谓密谋，不久就被单于知晓了。结果单于大怒。一场流血杀戮下来，张胜见取胜无望，竟然恬不知耻地投降了匈奴，可见他虽然有报国之心，但其所作所为，不过是为了功名利禄。

苏武对此毫不知情，却由于张胜的擅作主张而遭受鱼池之殃，在匈奴的威逼利诱之下，苏武毫不为其所动，坚决拒绝投降。匈奴一来敬佩苏武这样一个有骨气的人，二来，则是不想和汉朝彻底地翻脸，所以没有杀害他，而是把他放逐到冰天雪地的北海（贝加尔湖）。当时的汉朝居中央，以天朝上国自居，认为四周乃是蛮夷之地，汉使遭受如此奇耻大辱，是可忍孰不可忍，因此两国重新以兵戎相见。

而苏武在这期间，一直在贝加尔湖之畔以牧羊维持生计，前后长达二十年之久。没有亲人、朋友的支持和慰藉，有的只是冰天雪地的空旷无声，匈奴也曾数次遣人前来劝降，但他始终拒绝投降。匈奴宣称他早已死亡。历史记载说，当初，苏武被匈奴放逐到北海边以后，得不到粮食供应，便挖掘野鼠，吃鼠洞中的草子。而符节上的毛都已经全部脱落，苏武却仍然把它紧紧抱在怀中，拿着它牧羊，从不毁弃。到李陵投降匈奴，苏武已经在北海边生活了十多年，匈奴知道李陵和苏武在汉朝之时，都为侍中的官衔，而且也有一定的私交。李陵虽然知道苏武没死的消息，敬佩之余，心生愧疚，不好意思去见他。后来单于大摆宴席，将苏武和李陵都请到一起，无奈，李陵只能劝降苏武，苏武一片赤诚之心，忠肝义胆、天地可鉴，李陵的劝解、匈奴单于的威逼利诱，自然难以起到一点作用。