祖父汉名乐道。父名亨，字嘉甫，对儒家经典与理学颇有研究，且重操行，达官名士交章举荐，但他崇尚风雅，不乐于仕途，晚年退居大都房山，生子五人，克恭为其长子。克恭早年受父亲影响，于经学奥义，口诵心研，“识悟弘深”。至元十二年（1275）起，他先补各处掾吏，后任户部主事，以文雅置身于公卿大夫与魁儒硕彦之间，渐以名闻。
至元二十二年、二十三年，高克恭先后任河南道和山东西道提刑按察司判官，二十四年，升监察御史，台臣称他处事干练，持法有度，纲条具举。次年，桑哥为相，选为右司都事，次年改派江淮行省，考核簿书，施政号称“平恕”。还都后，授为兵部郎中。不久，桑哥被处死，朝议称高克恭为端介练达之士，选为江淮行省左右司郎中。在任期间，定儒籍，罢弊政，荐才望。当时浙西公田多隐漏失实，行省命高克恭检括。克恭认为，江南每岁输粮四百万石，浙西地区占三分之二，其中公田七十五万一千顷有余，办粮一百三十万石，租粮是民田的近二十倍，公田租赋特重，其由源于宋代，贾似道检括公田，骚扰民间，民田有限，只好强行拼凑，田有虚额，官府不予蠲免，于是负欠者众，吏民交病，应讲求良法，不当再次骚扰。他的意见未被采纳。后来又有理财大臣奉朝命至杭州经理田粮，增收浙东夏税，瓯、婺一带深受其扰，行省自执政以下皆顺旨画诺，唯高克恭认为此举在重伤百姓，拒不署名，并烧毁了一批经理帐册。
杭州每年征调百姓看管官仓，如遇奸利事件，宫库折耗，百姓变卖子女无法偿还。高克恭则另选州县受钱代服徭役的人夫承当，服一年则升其任，百姓得免于征调，杭州此后便以此为常规。税务司往往列刑具于门，用以惩办逃税人员，克恭召见税司官吏，问税入定数多少，答称，不足额定之数。克恭说：我将向上司明言，但示此刑具，加之以威，不是称职的作为。次晨赴税司牙署，见刑具已去，而税入此后却反有盈余。至元末年，江浙一带仍厉行火禁。克恭认为，平民依赖手工维持生计，如因火灾频发而严禁夜间点火，那末小民房屋狭小，夜间又势必要点灯作业，只好设法遮藏，结果，反倒使火灾频频发作。因此，他取消了这一条禁令，此举深得杭民拥戴。
江淮行省易名江浙，高克恭复归中书任郎中。元贞二年（1296），升山西河北道廉访副使。时畅师文仅任佥事，位在其下，高克恭上疏御史台，列“不可居纯甫（畅师文字）之上者”三条，力辞其任，于是，大德元年（1297）改选江南行台治书侍御史，畅师文也升为他任，时人多称克恭谦让之德。王敬父与克恭同历台、省之职，情义款密，但后来渐染放荡之习，饮酒则往往出语诋毁，使人难堪，克恭毫不动意，称“敬父趣尚高远，不应以小过摈废”，并力荐于朝。任职期间曾建言，朝廷累颁诏旨，议行贡举法，但权臣卖官营私，拔引同类，阻碍施行，致使天下乏才，因此，贡举法应立即施行。又言敦学校、选实才、汰冗官、增吏俸、慎刑狱等事，同列多龃龉讥讪，唯御史大夫彻里为之首肯。大德三年，调任工部侍郎，进而转为翰林直学士。
大德六年，授吏部侍郎。次年河东（今山西）大地震，高克恭被派赴平阳，赈饥葬死，审冤案，平反若干事。大德八年，改刑部侍郎。有人上告御史问案时有枉法行为，元成宗命立案问罪。与御史联名办案的官吏为免受牵连，纷纷袒护投诉者，御史于是服罪，后虽遇赦免，但仍议加责罚。高克恭深察其事，坚持联名办事者当与御史同罪，其言与执政意旨不合，但在朝廷辩论时，克恭始终不改初衷。升任刑部尚书后又建言：修明刑罚，本是教化人道的辅助手段，而人道莫大于君臣、父子、夫妇、兄弟伦常秩序。而今子控父罪，妇指夫罪，弟证兄罪，奴诉主罪，拷掠成案，大伤风化，宜加禁绝。又在押囚犯，每年死于狱中不下数百人，这些都足以证明，施政有碍于阴阳调和，亟待改善。在刑部与同官论事，不肯随声应和。不久，改任大名路总管。
至大三年（1310）二月还京师，将朝拜之际，感风寒，久治不愈，九月初去世。一子名柜，曾任秘书著作郎。
《寄友》
并行沿堤步晚晴，野香牵引过林炯。
谁知却是江南梦，寻到西曹夜直厅。
《过信州》
二千里地佳山水，无数海棠官道旁。
风送落红挽马过，春光更比路人忙。
《即事之二》
鸡鸣上马戴星还，邻近人家见面难。
一度相思一回首，二千里外得相看。
《赠英上人》
为爱吟诗懒坐禅，五湖归买钓鱼船。
他时如觅云踪迹，不是梅边即水边。
《题管夫人竹窝图》
云梢露叶秋声古，万玉丛深翠蛟舞。
此君拟结岁寒盟，拄笏相看立烟雨。
过雨山窗斜映日，带烟霜节总宜秋。
冻雷迸出千崖翠；勒此高歌傲素侯。
《赵子昂为袁清容画春景仿小李》
春林如染缀溪容，几处幽居倚碧峰。
不是两翁情话久，白云深杳未能逢。
克恭生性坦荡平易，与世落落寡合，遇知己则倾心相交，终身不疑。房山有田二顷，此外身无余资。他身为色目世家，但汉文化修养极高，去世前还特命丧葬“用朱文公法”，无疑是一位汉化的代表性人物。仕于南方时，他酷爱钱塘山水，余暇则呼僮携酒，杖履登山，留连尽日。画以山水、墨竹著称，兼及兰惠梅菊。山水始师二朱，后学董源、李成、巨然，墨竹学黄华，集众家之长而“大有思致”。时人诗称：“近代丹青谁自豪，南有赵魏北有高”，与赵孟頫南北相对，为一代画坛领袖。画竹则独步于时，后人有称：“前朝画竹谁第一，尚书高公妙无敌”。山水则主一代风尚，所谓“世之图青山白云者，率尚高房山”。在江南做官时，常与名士李仲芳、梁贡父、鲜于伯机、柳贯、虞集等交游，切磋技艺，与赵孟頫尤称至交，经常挥毫合作。平时不轻于作画，而喜于酒酣兴发之际，好友在侧，为之铺纸研墨，乘快为之，《图绘宝鉴》的作者夏文彦称其画“怪石喷浪，滩头水口，烘锁泼染，作者鲜及”，可见他喜用泼墨写意，画风形神兼备，气韵闲逸，元气淋漓，天真烂漫。去世后，遗墨一纸，价值百千缗，因而，出现了许多刻意临摹的作者，传世赝品也比较多。赵孟頫曾在《墨竹坡石图》中题诗曰：“高侯落笔有生意，玉立两竿烟雨中。天下几人能解此，萧萧寒碧起秋风。”
他同时兼有诗名，诗风“神超韵胜”，另有一派奇秀之气，《元文类》选西域诗人五家，他的诗作在数量上仅次于马祖常。此外还精于书法、名画、古器物的鉴赏。文集有《房山集》一卷（《元诗选》）、《高尚书文集》（《式古堂画考》，有王士熙跋）与《高文简公集》七卷（《千顷堂书目》）。
