东魏兴和三年（541年），高长恭出生，是东魏权臣高欢孙子、高澄第四子。生母之地位卑微，早年仕途经历远不如其兄弟。直到天保八年（557年），方才起家被授为通直散骑侍郎。天保九年（558年），封乐城县开国公，进上仪同三司。天保十年（559年），加授仪同三司，开始出任地方官，以本官行肆州事。高洋死后，高殷即位。北齐乾明元年（560年）三月二十一日，高长恭受封兰陵王。后来累次升迁至并州刺史。在乾明之变后，皇叔孝昭帝高演登基，给予兰陵王高长恭进一步重用， 邑通前一千五百户，转中领军，加开府仪同三司。武成帝高湛即位之后，大宁元年（561年），被授使持节都督并州诸军事、并州刺史。大宁二年（562年），别封巨鹿郡开国公，食邑一千户，进领军将军。
河清二年（563年），北周大将杨忠与突厥木杆可汗合兵自恒州而下攻北齐，直逼并州，高长恭参与了击退突厥的作战，奋力将突厥人击退。河清三年（564年）十二月，邙山之战时，北周攻打洛阳，武成帝高湛派高长恭与并州刺史段韶、大将军斛律光前往洛阳救援，因为惧怕北周的兵力强大，不敢前进。段韶利用谋略打败北周军队，高长恭带领五百名骑兵冲进北周军队的包围圈，到了金墉（今河南洛阳东北故城）城下，因为高长恭戴着头盔，城中的人不确定是敌军或是我军，直到高长恭把头盔脱下来让大家看到他的面貌，城上的人才派弓箭手开始放箭保护他，之后高长恭成功替金墉解围，北周军队最后放弃营帐逃走，从邙山到谷水的三十里间的川泽之地，都是北周丢弃的兵器辎重。高长恭在此次场战役中威名大振，士兵们为此次战役而讴歌他，即后来知名的《兰陵王入阵曲》。同年十二月十五日，高长恭被任命为尚书令。
后来，历任司州、青州、瀛州的地方长官。武平元年（570年）七月初三日，担任录尚书事。武平二年（571年）二月二十四日，担任太尉。三月，北周齐公宇文宪从龙门渡过黄河，右丞相斛律光退守华谷，宇文宪攻取了斛律光新筑的五座城池。高长恭与太宰段韶、右丞相斛律光联合进攻跷谷，率军抵御北周的军队，进攻柏谷城，攻克后就退兵而回。
武平二年（571年）五月，北周晋国公宇文护派中外府参军郭荣在姚襄城南、定阳城西修筑城池。六月，段韶包围定阳城，当时段韶生病，对高长恭说：“这座城池的三面都有两道河壕，无路可走；恐怕只有东南一条路，贼寇一定会从这里突围。应当挑选精兵专门防守这条道路，这样一定能够捉住他们。”高长恭便派一千多名壮士埋伏在东南涧口。城中的粮食吃尽，宇文宪集中所有的兵力去救援，但因害怕段韶，不敢前进。杨敷率领现有的士兵乘夜突围出城，被高长恭的伏兵攻击，全部俘虏。
武平三年（572年）八月，高长恭被任命为大司马。武平四年（573年）四月十三日，担任太保。高长恭前后因各项战功，被封为巨鹿郡公、长乐郡公、乐平郡公、高阳郡公等。
在邙山之战后，北齐后主高纬对高长恭说：“这样冲进敌阵之中，如果不小心发生意外怎么办？”高长恭回答说：“国事就是我们的家事，在战场上我不会想到这个。”而后主高纬因为他说的“家事”，又听到士兵们唱的《兰陵王入阵曲》，便开始猜忌高长恭。
定阳之战时，高长恭代替段韶的职务统率军队，但是常常收取贿赂，聚敛财物，他的亲信相愿问他说：“大王受到朝廷的重托，为什么要如此贪心呢？”高长恭没有回答。相愿继续说：“是不是因为邙山之战大胜，您害怕功高震主，遭受忌妒，而要作令人看不起的事情呢？”高长恭回答说是。相愿说：“朝廷如果忌恨你，这件事情更容易被当成是罪名，这不是躲避灾祸而是招来灾祸！”高长恭哭着俯身向相愿询问解决的计策，相愿说：“您之前已经立下战功，这次依然打胜仗，声望太大，最好假托有病在家，不要再管国家的政事。”高长恭听从他的计策，但是没有办法成功隐退。等到朝廷对陈朝用兵，高长恭恐怕再次被任命将军，叹息说：“我去年脸上长痈，现在为什么不发出来！”从此有了病也不肯医治。
武平四年（573年）五月，后主高纬派遣使者徐之范送毒酒给高长恭，高长恭对他的王妃荥阳郑氏（兰陵王妃）说：“我对国家如此忠心，哪里有辜负皇帝，而要赐我毒酒？”郑氏回答说：“为什么不亲自当面去跟皇帝解释呢？”高长恭说：“皇帝怎么可能会见我？”于是就饮鸩而死，年仅三十三，追赠太尉，谥号武。
高长恭在军事上的成就在于他参与了北齐后期与北周的历次大战，并数次击退北周进攻。河清二年（563年），北周大将杨忠联合突厥自恒州而下攻打北齐，突入晋阳（今山西太原），晋阳为北齐北方军事重镇，高长恭亲自参与了击退北周和突厥军队的作战，奋力将北周大将杨忠击退。次年十二月，邙山之战时，北周攻打洛阳，武成帝高湛派兰陵王高长恭与并州刺史段韶、大将军斛律光前往洛阳救援，高长恭带领五百名骑兵冲进北周军队的包围圈，到了金墉（今河南洛阳东北故城）城下，高长恭成功替金墉解围，北周军队最后放弃营帐逃走，从邙山到谷水的三十里间的川泽之地，都是北周丢弃的兵器辎重。根据《北齐书》的记载，这次战役后，高长恭开始声名远扬，士兵们为此作曲讴歌他，即后来知名的《兰陵王入阵曲》。
《北史》：文襄诸子，咸有风骨。虽文雅之道，有谢（萧）何、（陈）平。然武艺英姿，多堪御侮。纵咸阳赐剑（白起），歼覆有徵。若使兰陵获全，未可量也。而终见诛翦，以至土崩，可为太息者矣。
北齐安德王高延宗在邙山战后说：“四兄非大丈夫，何不乘胜径入？使延宗当此势，关西色得复存？”
叶廷珪：北齐兰陵王体身白哲而美风姿，乃着假面以对敌，数立奇功。
孔令德于河北磁县的兰陵王墓前所作长联：凭吊当年名将，肝胆照河山，戍紫津玄塞，荒原野祷，邙山突围，西境御敌，定阳擒贼。怎奈无辜于天反遭鸩，一代柱国遗憾恨。追忆昔日王勋，英风贯日月，为文韬武略，帅威臣廉，功高弗傲，富贵不淫，债契何讨，但有大德行地而称颂，千载兰陵享春秋。
李文珊：“（兰陵王）“战功卓著，深受将士和民众拥戴”，“与一代名将的英名同彪史册。”
刘学铫：“貌美而武艺高强，作战则勇冠三军。”
王怡辰先生认为兰陵王“军功卓著”，对北齐后主而言是“极可怕的人物”。
当代作家梅毅：“兰陵王虽勇猛绝伦，智力超常，但由于不是嫡子正统，所以后世记载相对较少，但很多野史根据‘免胄示之面’一句，演绎出兰陵王因长相俊美、惟恐在战场上无法威慑敌军的说法，则颇有想当然的成分，虽然北齐皇族高家是鲜卑化的汉人，不乏各民族通婚，从而出现英俊混血儿的可能性，但史书对于兰陵王生母并无记载，以一句孤证推断并不严谨。”
