早年经历
苏武年轻时凭着父亲苏建的庇荫，与兄长苏嘉、弟弟苏贤皆官拜郎中，后升任栘中厩监。
出使匈奴
汉武帝时期汉朝不断讨伐匈奴，双方多次派使节互相侦察。匈奴扣留了汉使郭吉、路充国等前后十余批人，汉朝也扣留匈奴使节以相抵。天汉元年（前100年），且鞮侯单于即位，害怕受到汉朝攻击，于是说：“汉朝天子是我的长辈。”送还了之前扣押的汉使路充国等。武帝为了赞许之，于是遣苏武以中郎将的身份，持节护送扣留在汉的匈奴使者回国，并赠送单于礼物，以答谢单于。苏武同副中郎将张胜及临时委派的使臣常惠等，并临时招募士卒、斥候百余人一同前往。到了匈奴，赠送财物给单于。单于越发傲慢，这不是汉所期望的。
单于正派使者护送苏武等，适逢缑王与虞常等在匈奴谋反,暗中策划绑架单于的母阏氏投奔汉朝。正好苏武等至匈奴。虞常在汉朝的时候，与张胜有旧，私下拜访张胜，说：“听说汉朝皇帝很恨卫律，我能替汉朝用暗箭射杀他。我的母亲和弟弟都在汉，希望他们能得到汉朝的赏赐。”张胜答应了他，并送给虞常许多财物。
一个多月后，单于出外打猎，只有阏氏和单于子弟在。虞常等七十余人起事前，一人趁夜逃跑，揭发了他们的计划。单于子弟与他们交战，缑王等战死；虞常被活捉。单于派卫律审理此案。张胜听到消息，担心和虞常所说的话被揭发，便把事情告诉了苏武。苏武说：“事情已经发生了，一定会牵连到我。如果我受到了侵害，就更加对不起国家了。”于是想自杀。张胜、常惠制止了他。虞常果然供出张胜。单于大怒，召集贵族商议，想杀汉使。左伊秩訾说：“如果有人谋害单于，那要怎么加刑？应该全部招降。”单于派卫律召唤苏武来受审讯。苏武对常惠说：“屈节辱命，即使活着，有什么面目归汉！”说著拔刀自刺，卫律大惊，抱住苏武，派人骑快马找医生。医生在地挖一个坑，在坑中点火，把苏武放在坑上，敲他的背让淤血流出。苏武本已断气，过了半天才有气息。常惠等人哭泣，用车把苏武载回营帐。单于钦佩苏武的节操，早晚派人探望询问，把张胜监禁起来。
苏武的伤势逐渐好转。单于派使者劝降苏武，并同时审判虞常，想借此使苏武投降。卫律亲手用剑斩杀虞常后，说：“汉使张胜谋杀单于亲近的大臣，应当是死罪，但是单于招募愿意投降的人，赦免其罪。”举剑要砍张胜，张胜请降。卫律对苏武说：“副官有罪，主管也应当连坐。”苏武说：“我本来就没参与计划，又不是他的亲属，凭什么连坐？”卫律又举剑对着苏武，苏武不动。卫律说：“苏君，我之前背弃汉朝归顺匈奴，有幸受到了单于的恩宠，赐予了爵位和财富，管理数万民众，牛马牲口堆满山，才有像今天这样富贵。苏君今日投降，明日也会跟我一样。否则是白白拿身体去做野草的肥料，谁会知道啊！”苏武毫无反应。卫律说：“你要是顺着我投降了，我就能和你做兄弟。今天不听吾的我的建议，以后就算想再见我也没们这么容易了。” 苏武骂卫律说：“你为人臣子，不顾恩义，背叛君主和父母，投降蛮夷去做俘虏，我见你做什么？况且单于信任你，让你决定他人的死生，你公平执法，反而想挑起两个君主的矛盾，自己坐观成败。南越国曾经杀汉朝使者，最后被汉朝消灭南越国也成了汉朝的九个郡；宛王曾经杀汉使者，最后被汉朝消灭，他的人头也被悬在北门示众；朝鲜杀汉使者，立即就被灭国了。只有匈奴还没遭到这样的下场罢了。你明知我不降，就是要杀我，令两国开战，匈奴的覆灭就从我开始吧。”
卫律知道苏武不可胁迫，报告了单于。单于越发想使他投降，就囚禁苏武，置于大地窖内，不给他吃喝。天下雪，苏武卧著嚼雪，同毡毛一起吞下，几日不死。匈奴以为他是神人，就将苏武迁至北海，让他放公羊，说等公羊生小羊才可归汉。同时把他的部下常惠等人安置到别的地方。
牧羊北海
苏武到了北海，没有供应粮食，只能掘野鼠所储藏的果实吃。苏武拄著汉节牧羊，起居都拿着，以致节上毛全部脱落。过了五、六年，单于的弟弟于靬王到北海打猎。苏武会编打猎的网，矫正弓弩，于靬王器重他，供给他衣服、食物。三年多过后，于靬王大病，赐苏武马匹、牲畜、服匿、穹庐。于靬王死后，他的部下也都迁离。冬天，丁灵人盗走了苏武的牛羊，苏武又再度穷困。
苏武在汉朝时，与李陵都担任侍中的官职。武帝天汉二年（前99年），李陵投降匈奴，不敢访求苏武。后单于派李陵去北海，为苏武设酒宴和歌舞。李陵对苏武说：“单于听说我和子卿你交情深厚，所以让我来劝说你，他真心你能成为匈奴的臣子。你到死也不能归汉，白白在没有人的地方让自己受苦，即使坚守信义又有谁能看见呢？先前长君（苏嘉的字）做奉车都尉，随从圣驾至雍的棫阳宫，皇帝扶辇下除，撞到柱子折断车辕，被指控为大不敬，伏剑自刎，皇帝赐钱二百万作为丧葬费。孺卿（苏贤的字）随从圣驾祠河东后土，宦骑与黄门驸马争船，把驸马推到河里淹死了。宦骑逃亡，皇帝下诏让孺卿追捕，没抓到，孺卿惶恐服毒自杀。我来的时候，你的母亲已不幸去世，我送葬至阳陵。你的妻子年少，听说已经改嫁了。只有两个妹妹，两个女儿一个儿子，重你离家至今已经十几年了，是不是还活着也不知道。人生如朝露一般短，为什么要让自己受这么久的苦呢！我刚投降的时候，也痛苦的像发疯一样，恨自己背叛了汉朝，加上老母被收留在保宫里。你不想投降的心情，难道比得过我当初？况且陛下年龄大了，法令无常，大臣们没有犯罪就被灭族的有数十家，连自身安全都无法保证，你还顾得上别人么？请听从我的建议，不要再说别的了。”苏武说：“我们苏家父子没有什么功劳，都是因为陛下才能位列将帅，获爵封侯，兄弟为近臣，我一直都想肝脑涂地来报答他的恩情。现在能够杀身报恩，即使是上刀山下油锅，也觉得快乐。臣子事奉君主，就如同儿子事奉父亲。儿子为父亲而死没有什么遗憾的。希望你不要再说了。” 李陵与苏武共饮了几天，又说：“你就听从我的话吧！”苏武说：“我早就已经死了！右校王（李陵在匈奴的爵位）如果一定要让我投降，就请请停下今日的欢宴，我直接死在你面前！”李陵见苏武如此真诚，喟然长叹道：“真是义士啊！我和卫律的罪过上通于天！”说著流下眼泪浸湿了衣襟，决别苏武而去。
后李陵又到北海，对苏武说：“区脱地区捕得云中的活口，说太守以下的吏民都穿着白衣，说皇帝驾崩了。”苏武听了向南大哭，吐血，每天早晚哭吊数月之久。
归汉封官
武帝后元二年（前87年），昭帝即位。几年后，匈奴和汉朝达成和议。汉朝寻求苏武等，匈奴谎称苏武已死。后汉使又到匈奴，常惠请求看守他的人员同他前往，夜晚见了汉使，原本地述说了这几年在匈奴的情况。告诉汉使要对单于说：汉天子在上林苑中射猎，射得一只大雁，脚上系著帛书，上说苏武等人在北海。汉使万分高兴，照常惠所说的话去责问单于。单于看身边的人非常惊讶，向汉使道歉说：“苏武等人的确还活着。” 于是李陵设酒筵向苏武祝贺，说：“今天你还归，在匈奴中扬名，在汉皇族中功绩显赫。即使古代史书所记载的事迹，图画所绘的人物，怎能超过你！我李陵虽然无能和胆怯，假如汉廷姑且宽恕我的罪过，不杀我的老母，使我能实现在奇耻大辱下积蓄已久的志愿，这就同曹沫在柯邑订盟可能差不多，这是以前所一直不能忘记的！逮捕杀戮我的全家，成为当世的奇耻大辱，我还再顾念什么呢？算了吧，让你了解我的心罢了！我已成异国之人，这一别就永远隔绝了！”李陵起舞，唱道：“走过万里行程啊穿过了沙漠，为君王带兵啊奋战匈奴。归路断绝啊刀箭毁坏，兵士们全部死亡啊我的名声已败坏。老母已死，虽想报恩何处归！”李陵泪下纵横，于是同苏武永别。单于召集苏武的部下，除了以前已经投降和死亡的，总共跟随苏武回来的有九人。
昭帝始元六年（前81年）春，苏武回到长安。昭帝下令苏武带一份祭品拜谒武帝园庙。官拜典属国，俸禄中二千石；赐钱二百万，官田二顷，住宅一处。常惠、徐圣、赵终根都官拜中郎，赐丝绸各二百匹。其余六人因年老而返乡，各赐钱十万，终身免徭役。
上官谋反
昭帝始元七年（前80年），左将军上官桀、骠骑将军上官安父子与御史大夫桑弘羊、燕王刘旦、鄂邑公主谋反，苏武之子苏元因参与阴谋，而被处死。
起初，上官桀、上官安与大司马大将军霍光争权。上官桀父子屡次记下霍光的过失交给燕王刘旦，使刘旦上书昭帝，告发霍光。又说苏武出使匈奴二十年不肯降。但回到汉朝后，只为典属国。然而霍光属下长史并无功劳，却被升为搜粟都尉，霍光专权放肆。直到刘旦等人被处死，追查同谋者。苏武与上官桀、桑弘羊有旧，燕王又因苏武功高而官小数次上书，其子又参与谋反。廷尉上书请求逮捕苏武。霍光把奏章搁置，只将苏武免官。
宣帝时期
昭帝元平元年（前74年），宣帝即位。宣帝赐爵苏武关内侯，食邑三百户。后卫将军张安世推荐苏武通悉典章制度、出使持节不降。于是宣帝召苏武在宦者署听候宣召，多次进见。拜右曹典属国。因苏武是德高望重的老臣，只令他每月的初一和十五日入朝，尊称为“祭酒”。苏武把所得赏赐，全部施送给弟弟和过去的邻里朋友，家中不留一点财物。恭哀皇后父平恩侯许广汉、宣帝舅平昌侯王无故和乐昌侯王武、车骑将军韩增、丞相魏相、御史大夫丙吉，都很敬重苏武。
此时苏武年事已高，宣帝问左右：“苏武在匈奴那么久了，难道还有子嗣吗？”苏武透过平恩侯许广汉向宣帝陈述：“以前在匈奴发配时，娶的匈奴妇人正好生了一个儿子，名字叫通国，有消息传来，想通过汉使者送去金银、丝绸，把男孩赎回来。”宣帝同意了。后苏通国随汉使回汉朝，宣帝命其为郎。又让苏贤之子做了右曹。
苏武活到八十余岁，宣帝神爵二年（前60年）去世。
李陵：“今足下还归，扬名于匈奴，功显于汉室，虽古竹帛所载，丹青所画，何以过子卿！”
班固：“使于四方，不辱君命，苏武有之矣。”
李白：“苏武在匈奴，十年持汉节。白雁上林飞，空传一书札。牧羊边地苦，落日归心绝。渴饮月窟冰，饥餐天上雪。东还沙塞远，北怆河梁别。泣把李陵衣，相看泪成血。”
温庭筠：”苏武魂销汉使前，古祠高树两茫然。云边雁断胡天月，陇上羊归塞草烟。回日楼台非甲帐，去时冠剑是丁年。茂陵不见封侯印，空向秋波哭逝川。“
欧阳修：“盖诗者，乐之苗裔与。汉之苏、李，魏之曹、刘，得其正始。”
陈杰：“伸脚踏沙迹，开口吃汉天。见天不见雪，况辨雪与毡。环观不敢杀，谓是不死仙。汉庭方求不死该，方士取露和玉屑，何如老臣毡夹雪。”
柴望：“十九年间不辱君，论功何独后诸臣。若教倒数凌烟像，也是当时第一人。”
徐钧：“胡沙不隔汉家天，一节坚持十九年。白首微官甘属国，耻随李卫老戎旃。”
陈普：“伏匿穷庐煖意回，子卿一夜梦阳台。归来不与曾孙议，未必麒麟生面开。”
文天祥：“独伴羝羊海上游，相逢血泪向天流。忠贞已向生前定，老节须从死后休。不死未论生可喜，虽生何恨死堪忧。甘心卖国人何处，曾识苏公义胆不。” “漠漠愁云海戌迷，十年何事望京师。李陵罪在偷生日，苏武功成未死时。铁石心存无镜变，君臣义重与天期。纵饶夜久胡尘黑，百炼丹心涅不缁。”
王世贞：“自汉通匈奴，宋通金虏，建节衔命，无岁无之。至于渝沙轶漠，候月占星，劳饥空乏于酪毳之乡。流离偃蹇于丁零之区。邻死不渝。岁寒不雕。惟苏子卿、洪光弼称焉。”
