臧宫年轻的时候，曾担任颍川郡郏县的亭长（掌治安，捕盗贼之事）、游徼（掌巡察缉捕之事）等职。后来，率领宾客参加下江兵（绿林军的一支），在军中担任校尉。
绿林军大起义后，南阳西汉宗室刘演、刘秀兄弟也起兵于舂陵（今湖北枣阳），号称“舂陵兵”。为了抗击王莽的部队，舂陵兵加入了绿林军，于是，臧宫有机会结识了刘秀，并追随他征战。臧宫作战勇猛，军中诸将都夸他勇敢。刘秀见臧宫话语不多，做事勤勉，也很器重臧宫，把臧宫收纳为自己的亲信。
公元23年（更始元年）十月，更始帝刘玄令刘秀以破虏将军行大司马事持节北渡，镇慰河北诸州郡。刘秀进兵平定河北之战中，臧宫被任命为偏将军。在随后的战争中，臧宫屡次陷阵破敌，立下很多战功。
公元25年（建武元年）六月，刘秀称帝，臧宫被任命为侍中，骑都尉。
公元26年（建武二年）春，刘秀称帝后第二次大封功臣，臧宫被封为成安侯。
公元25年（建武元年）九月，汉军光复洛阳，为了巩固洛阳，就要剿灭洛阳西、南一带的流民军，公元26年（建武二年）春，刚刚封侯的臧宫与王常、景丹、朱祐、祭遵、王梁一起统领大军南出箕关（中国古代太行八陉之一——轵关陉上一处著名关隘），向南进军，去清剿盘踞在洛阳西南地区的弘农、厌新、柏华、蛮中等流民武装，经过一年的苦战，平定了这些地方。
在清剿流民军之后，又去清剿更始政权的残余势力，公元27年（建武三年），臧宫又和征虏将军祭遵去讨伐盘踞在涅阳（河南省南阳市西南部）、郦县（今河南省南阳市内乡县城关西北）一带的更始政权的将领左防、韦颜，在臧宫率领突骑（用于冲锋陷阵的精锐骑兵）猛攻之下，左防、韦颜大败，被迫投降。
消灭更始残军之后，公元27年（建武三年）五月，臧宫又随征南大将军岑彭继续南征，前去围剿盘踞在荆、楚地区的楚黎王秦丰，经过二年苦战，消灭了敌军主力。
公元29年（建武五年），臧宫单独率兵徇江夏郡，先后攻克了代乡、钟武、竹里等地。因为在南征之中立下功劳，刘秀派太中大夫持节任命臧宫为辅威将军。
公元31年（建武七年），臧宫被改封为期思侯。
公元31年（建武七年），臧宫率军继续南下，平定了梁郡（治所今河南商丘）、济阴郡（治所今山东省定陶县）。
经过十年征战，刘秀已经基本统一中国，只有西南一隅的公孙述还没有被消灭。
公元35年（建武十一年）三月，刘秀命令岑彭与吴汉、诛虏将军刘隆、辅威将军臧宫、骁骑将军刘歆等将领调集南阳、武陵、南郡的兵士和桂阳、零陵、长沙的棹卒（水手）六万人，会集荆门，准备伐蜀。
汉军攻破荆门之后，岑彭、臧宫、刘歆率领3万余人水陆并进，出垂鹊山，然后出秭归，直抵江关(今奉节东），进逼江州（今重庆）。江州城固粮多，不易攻破，岑彭、臧宫绕城而过，率主力及降卒3万直指垫江(今四川合川），攻破平曲(今四川合川东），收其米粮10万石。公孙述急调延岑、吕鲔、公孙恢等率重兵抵御汉军。岑彭命臧宫率降卒5万从涪水抵平曲，多张旗帜，广设疑兵，牵制延岑之蜀军主力，自率精兵乘船溯江而上直指成都。
当时，公孙述的部将延岑率领大军拒住沈水，声势浩大。而臧宫的情况却很艰难。他手下人多，粮食少，运输跟不上，补给困难。好多士兵，心存去意，总想借机会反叛逃散。郡内各县的地方势力，见此情形，也再次聚集自保，准备观察成败利钝后，再决定究竟投向哪一边。
臧宫本想率部撤回，可又担心部下反叛，敌人追杀，一时犹豫难决。适逢光武帝派谒者令率兵去见岑彭，有骑兵七百多人。臧宫当机立断，假传圣旨，把这些兵调到了自己部下，壮大自己的声势。他命令部队晨夜行军，并故意打出许多旗帜，派人登上山冈擂鼓呐喊。行军时，左岸是步兵，右岸是骑兵，夹拥着战船浩然而进，呼声震动山谷。
延岑没有料到汉军来得如此突然，急忙登山瞭望，看到汉军阵容强大，士马鲜明，他十分震惊。臧宫乘势纵兵出击，大败延岑，延岑部众被斩首和落水溺死的有一万多人，江水都变得混浊了。
延岑只身逃奔成都，他的士兵全部投降，臧宫缴获了他的兵器马匹珍宝和一应辎重，然后，乘胜追击，一路迫降十几万人。
臧宫一路猛攻，进军到平阳乡（今四川绵阳附近），蜀将大将王元率众向臧宫投降。接着，又臧宫进军攻占绵竹县（在今四川德阳北），击破涪县城（治所在今四川绵阳东），斩杀了公孙述的弟弟公孙恢。又攻克了繁县（今四川彭县西北）、郫县（今四川郫县）。臧宫前后缴获的节杖就有五条，印绶更是高达一千八百个。
整顿兵马之后，臧宫率军进攻成都北方的门户——雒城（今广汉市雒城镇）。此时，大司马吴汉统帅的南线汉军攻占广都（今四川省成都市东南），乘胜进逼成都，就等臧宫兵抵成都，南北夹攻了。但是，一路高歌猛进的臧宫在雒城遇到了蜀军顽强的的抵抗，由于雒城池深城高，防守严密，臧宫一时难以攻下。从此，双方在南北两路同时开始对峙，战局陷入了僵局。
经过半年多的全力围攻，臧宫终于拿下了雒城。公元36年（建武十二年）十月底，臧宫率领北线汉军与吴汉率领的南线汉军在成都城下会师，对成都形成了合围之势。
南北会师之后，臧宫去吴汉的军营会晤，他率兵进入小雒城门，耀武扬威地经过成都城下，来到吴汉营中。吴汉见到臧宫，特别高兴。两人饮酒高会。酒后，吴汉对他说：“将军来时经贼兵城下，震扬了威力，行走如风，照耀如电。然而穷寇难以估量，回去时希望你改行他道。”臧宫心气高傲，哪里肯听，他仍从原路返回营地。敌人也不敢拦截他。
公元36年（建武十二年）十一月十八日，吴汉、臧宫率部屯于成都城咸阳门以外，准备与公孙述在城下展开决战！公孙述令延岑率领主力攻击臧宫所部，自己去战吴汉。臧、岑交手，延岑三合三胜。但此时公孙述胸部中枪坠落马下，蜀军败入城中。公孙述当晚就死了。次日晨，延岑投降。吴汉、臧宫统兵入城。
光武帝刘秀因蜀地刚刚平定，地方不稳固，就任命臧宫为广汉太守，率军镇抚蜀地。
公元37年（建武十三年），为了犒赏臧宫平定蜀地的战功，朝廷增加臧宫的封地，改封他为酂侯。
公元39年（建武十五年），臧宫应征召回京师，以列侯奉朝请，定封为朗陵侯。
公元42年（建武十八年），臧宫被任命为太中大夫。
公元42年（建武十八年），汉朝在蜀郡的守将史歆在成都谋反，刘秀因史歆曾是岑彭的护军，精通军事，所以派遣吴汉率领刘尚及太中大夫臧宫率万余人前往讨伐。围困一百多天，成都城破，史歆被杀。
公元43年（建武十九年），妖巫维汜的弟子单臣、傅镇等人传播谣言，聚众滋事。他们攻进原武城，劫持官吏百姓，自称将军。朝廷派臧宫率领北军及黎阳营将士包围原武城。当时单臣等粮草丰足，汉军几次攻打，都未能攻克，士卒多有死伤。光武帝召集大臣咨询方略，公卿、诸侯王都说应该悬重赏购求敌首。东海王（即后来的明帝刘庄）提出了不同意见。他说：“妖巫劫持吏民，其心不会长久。他们内部一定有因后悔而想逃跑的。只不过由于我们围城太急，他们没有机会出逃罢了！为今之计，最好是略缓城围，让他们得以逃出城去。一逃，有一个亭长就足可以擒获了。”光武帝采纳东海王的建议，命令臧宫撤出部分兵力，暂缓城围，敌人果然分散逃出。臧宫等斩杀了单臣、傅镇，平息了变乱。
臧宫回京，因平乱之功升任城门校尉，又转任左中郎将。后又出兵到武溪平乱。兵到江陵，敌降而归。
东汉初年，因为长期战争，力量比较薄弱。所以对匈奴采取防御的方针和策略。
后来，匈奴饥疫连年，内部纷争反覆。光武帝刘秀召见臧宫，问他对匈奴问题的看法。臧宫说：“愿率五千骑兵以立功。”光武帝刘秀笑着说：“你是常胜将军，不能跟你讨论敌情，因为你根本不把敌人放在眼里。”
公元51年（建武二十七年），臧宫和杨虚侯马武一起上书刘秀，建议北击匈奴，刻石纪功。但光武帝刘秀长年寄身军旅，颇厌武事，并且知道天下疲耗，人心思定，只想偃武息兵，与民休息，不想轻起边衅，疲国困民。于是下诏书给臧宫、马武，阐明自己的观点。这封诏书，部分地表现了光武中兴的思想基础，对朝廷认识转变影响至大。由于在这封诏书中，光武帝明确地表示了自己的看法，所以，此后，将领们再也没有人提起用兵黩武之事了。
公元58年（永元元年），臧宫去世，谥号愍侯。
公元60年（永平三年），汉明帝追忆当年随其父皇打下东汉江山的功臣宿将，命绘二十八位功臣的画像于洛阳南宫的云台，臧宫名列第十四位。
北宋年间成书的《十七史百将传》中，臧宫亦位列其中。
范晔《后汉书》：①“宫勤力少言。”；②“宫以谨信质朴，故常见任用。”；③“宫、俊休休，是亦鹰扬。”；④“臧宫、马武之徒，抚鸣剑而抵掌，志驰于伊吾之北矣。”
张预《十七史百将传》：“孙子曰：‘形之，敌必从之。’宫令车声不绝，而敌疑汉兵大至。又曰：‘昼战多旌旗。’宫多张旗帜，登山鼓噪而敌震恐。又曰：‘围师必阙。’宫彻围缓贼而斩臣、镇。又曰：‘非危不战。’宫欲灭匈奴，光武以谓不如息人是也。”
谈迁《枣林杂俎》：“乃抚剑抵掌。志驱伊吾之北者，臧宫、马武也。”
黄道周《广名将传》：“宫奉帝命，屯兵骆越。兵少力微，越欲叛别。会送委输，车数百辄。领车回转，车声不绝。越惊兵来，叛逆遂歇。后伐延岑，流水对列。食少众多，事几决裂。矫马自雄，张旗赫烈。登山望之，势如风雪。乘乱破之，公孙随灭。封之酂侯，其功实切。”
