何武，字君公，是蜀郡郫县人。汉宣帝时，天下太平，四夷宾服，神爵、五凤年间多次承蒙天降祥瑞以应人君之德。而益州刺史王襄让能言善说的士人王褒颂扬汉朝政德，创作了《中和》、《乐职》、《宣布》等三篇诗。何武年纪有十四、五岁，与成都人杨覆众等人一同研习并把它们编成歌曲演唱。当时，汉宣帝遵循汉武帝时期的典章制度，寻求博识卓越的人才，于是在宣室殿召见了何武等人。汉宣帝说：“这大德之事，我怎么配得上呢！”于是起用王褒担任待诏，赏赐何武等人以布帛才完结。
何武跟随博士学习，研习《易经》。以后以射策甲科的资格担任郎官，与翟方进志趣相投互为好友。光禄勋推荐质朴、敦厚、逊让、有行义四行时，何武被提拔担任鄠县令，后犯法免官回家。
何武兄弟五人，都担任郡吏，郡县之人都敬畏他们。何武的弟弟何显家有商人户籍，总是不交纳租税，总是亏欠县里的租赋。县里的啬夫官求商捉拿侮辱何显家，何显愤怒，想用官吏之事中伤求商。何武说：“因我家租赋徭役不在众人之前完成，以公事为重、不徇私情的官吏不也就应该这样吗!”何武最后告诉了太守，太守征召求商担任卒吏，州里人听说这件事后都很敬服何武。
很久以后，太仆王音推举何武为贤良方正，何武被征召进行对策考试，结果被提拔担任谏大夫，调任扬州刺史。他所纠举的二千石长吏，一定先显露出来，使被劾者知道，知而服罪者减除其罪状，免官而已；知而不服罪者，将其上奏，施行最重的刑罚，使其抵罪或者处死。
九江太守戴圣，是因《礼经》称为小戴的人，政行大多不循法规，前任刺史因为他是著名的儒生，宽容了他。到何武担任刺史，便巡视部属，考察刑政，审察并记录囚犯的罪状，有被检举的则将其交给郡国。戴圣说：“何武这后进生知道什么，只是想扰乱别人的治理工作！”都没有什么决断。何武派从事查获了他的罪行，戴圣害怕，自动辞职。戴圣后来做了博士。在朝廷里诋毁何武。何武听说这件事，最终没有公开他的罪行。而戴圣儿子的门客聚合成群盗，官吏将其捕捉，拘囚在庐江，戴圣自认为他的儿子一定会被处死。何武公平地判决了这件事，他的儿子最后没有被处死。从此以后，戴圣内心惭愧而敬服何武。何武每次到京城奏事，戴圣没有不登门谢恩的。
何武担任刺史，二千石有罪，他就随时列举其罪状而上奏，其他有才能与没有才能的都敬之如一，因此郡国之人都尊重他们的守相，州中太平。何武巡视其部属时，一定先到学校，让学生出来，考试他们讲说一书，询问他们所得收获，然后进入传舍。拿出教命之书询问垦田多少，五谷好坏，完了后才拜见二千石，何武巡视时总是按照这一顺序。
起初，何武担任郡吏时，侍奉太守何寿。何寿知道何武有宰相的才能，因与其同姓，所以特别厚待他。后来何寿担任大司农，他的侄子担任庐江长史。当时何武招待何武的弟弟何显以及旧友杨覆众等，酒兴正浓时，何寿让他的侄子出来拜见何显等人，说：“此人为扬州刺史，才能低下，至今没有被识拔。”何显等人很惭愧，走了以后就把这件事告诉了何武，何武说：“刺史自古以来为地方官，皇上任命我担任这一职务，是要求做一州的表率，其职责在于进善退恶。官吏的政绩有特别卓越的，百姓有隐居的，就应当召见，不能暗地里询问点滴事情。”何显、杨覆众极力劝说他，没办法召见了何寿的侄子，赐给他一卮酒。这一年中，庐江太守推荐了他。何武谨慎守法到这种程度。
何武担任扬州刺史五年后，进朝担任丞相司直，丞相薛宣敬重他。后出任清河太守，几年后，因受到郡中百分之十四以上的地方遭受灾害的牵连被免官。很久以后，大司马曲阳侯王根推荐何武，皇上征召他担任谏大夫。调任兖州刺史，进朝担任司隶校尉，调任京兆尹。二年后，因举方正，被推举的人在被召见时行礼容拜，有司认为这是违众虚伪之举。何武获罪降职担任楚内史，后升任沛郡太守，又进朝担任廷尉。绥和三年，御史大夫孔光降职担任廷尉，何武升任御史大夫。汉成帝想修建大学，开三公馆，就改御史大夫为大司空。何武改任大司空，被封为汜乡侯，食邑一千户。汜乡在琅讶不其，汉哀帝刚即位，奖赏大臣，又把南阳郡荤县的博望乡作为汜乡侯的封国，增加食邑一千户。
何武为人仁慈厚道，喜欢引荐士人，劝勉、赞许别人的长处。担任楚内史时看重龚胜、龚舍两人，在沛郡时看重唐林、唐尊二人，到担任公卿后，就将他们向朝廷推荐。这四人之所以能在世上出名，是因为何武的大力推荐，世人因此对何武进贤很尊重。但何武憎恨拉帮结派，察问文官一定要察问读书人，察问读书人一定要察问文官，以相参照。打算提拔官吏，首先制定法令条例以防止私相嘱托。他在所任官职上也没有赫赫名声，但离开后总是被人思念。
到担任御史大夫司空时，何武与丞相翟方进共同上奏说：“过去诸侯王审理、判决案件处理政事，内史管理监狱之事，郡相统管法纪辅佐诸侯王，中尉防备盗贼。现在诸侯王不处理案件参与政事，中尉官被废置，其职掌并入内史，郡国守相放弃重任，是为了让百姓相信而依附他。现在内史地位卑下而权力重大，威信和职权大大超过，这些不在尊者的统领之下，就难以治理好国家。我们请求郡相如太守，内史如都尉，来使尊卑秩序顺通，使轻重权力公正。”诏书批示说：“行。”以内史为中尉。起初何武担任九卿时，上奏说应设置三公官，又与翟方进共同上奏罢停刺史，改置州牧，后来都又恢复原样，只有内史职事在施行。
何武举奏很多，称得上繁杂细碎，但不能称得上贤能的三公官。其功绩名位与薛宣差不多相同，但其才去赶不上，而经学正直超过了他。何武的后母在郡国，干也派官回去接来。正碰上汉成帝驾崩。官吏恐怕在道路上有盗贼，后母停止前往，汉哀帝的侧近之臣有的指责何武侍奉亲人不忠诚。汉哀帝也想改换大臣，于是下诏免掉何武的官职。说：“你举置繁苛，不合众心，孝声不闻，恶名流行，没办法做众人表率。应当上交大司空印绶，罢官回到封国。”过了五年，谏大夫鲍宣多次声称冤枉了他，汉哀帝感于丞相王嘉的奏对，而高安侯董贤也荐举何武，因此又被征召担任御史大夫。一月后，调任前将军。
在这之前，新都侯王莽回到封国，过了几年，汉哀帝因太皇太后王政君的缘故征召王莽回到京城。王莽的堂弟成都侯王邑担任侍中，假称王政君旨意来告诉哀帝，替王莽求取特进给事中。汉哀帝又召见他，但事情被发觉。王政君替王邑道歉，汉哀帝因王政君的缘故不忍心杀死他，但将王邑降职担任西河属国都尉，削减一千户。以后汉哀帝又下诏召举太常，王莽暗中跟随何武请求被举荐，何武不敢举荐。几月后，汉哀帝驾崩，王政君调王莽进入朝廷，收回大司马董贤的印绶，下诏有司举荐能够担任大司马的人。王莽原来是大司马，让位以躲避丁、傅两家，众人称赞王莽，认为他贤能，再加上他是王政君的近亲，故从大司徒孔光以下全朝廷都举荐王莽。
何武为前将军，平常与左将军公孙禄相好，二人单独谋划，认为过去惠帝、昭帝年幼主政时期，外戚吕、霍、上官持权，几乎危及国家，如今成帝、哀帝接连几代没有继嗣，应当选立皇帝的亲近之人来辅佐幼主，不应让异姓大臣掌权，亲疏相杂，对国家的方针大计有利。于是何武荐举公孙禄能任大司马，而公孙禄也荐举何武能任大司马。太后最终自己起用王莽担任大司马。王莽暗示有司上奏揭发何武、公孙禄互相荐举的罪状，结果何武、公孙禄二人都被免官。
何武回到封国后，王莽的势力逐渐强大起来，担任了宰相，暗地里诛杀不依附自己的人。
元始三年（3年），吕宽等人的事发生。当时大司空甄丰秉承王莽的旨意，派遣使者乘坐传车查处其同党，把所有自己想杀的人牵连进去，上党的鲍宣、南阳的彭伟、杜公子、郡国中的豪杰受牵连被处死的有几百人。何武也在指控中，大理正用监车征召何武，何武自杀。
班固：何武之举，王嘉之争，师丹之议，考其祸福，乃效于后。当王莽之作，外内咸服，董贤之爱，疑于亲戚，武、嘉区区，以一蒉障江河，用没其身。丹与董宏更受赏罚，哀哉！故曰“依世则废道，违俗则危殆”，此古人所以难受爵位者也。
常璩：进贤为国，稽考典型。
宋祁：氾乡为人，鲠固清明。嫉恶比周，直鞅安行。先问儒官，已乃事事。望侈德充，晚相天子，天子倚之。奸臣内增，天丧道消，卒为贼乘。玉折不挠，身没名升。
