张养浩出身于一个富裕的平民家庭，其曾祖以上的事迹已无可考。所可知者就是其祖父张山曾经从戎，其父张郁弃儒从商，所以积攒了一定的资产，为幼年张养浩的就学创造了经济基础。后因子贵，追封通议大夫（正三品）、吏部尚书（正三品）、上轻车都尉（正三品）、济南郡侯（正三品）；母亲许氏，后追封济南郡夫人。
元世祖至元七年（1270年）寒食节前后，张养浩生于济南历城县一户富裕人家。根据其后来作品《双调胡十八》中自述：“从退闲，遇生日，不似今，忒稀奇。正值花明柳媚大寒食，齐歌着寿词，满斟着玉杯，愿合堂诸贵宾，都一般满千岁。”判断其生日大约在寒食节前后。
至元十三年（1276年），外祖父许氏一家从济南迁徙至江南，7岁的张养浩随母亲送行到城西。在路上捡到别人丢失的财物，失主已经走远了，养浩又追上去交给失主。
至元十六年（1279年），十岁的张养浩，读书学习非常，经常昼夜不辍，父母担心他太过用功累坏身体就制止他，而他白天把书默默地背诵，晚上关上房门点上灯，偷偷读书。
至元十九年（1282年），母亲，外祖父相继去世，父亲又续娶尚氏，为养浩的继母。
至元二十三年（1286年），十七岁的张养浩游济南舜祠作《过舜祠》一诗。舜祠，古祠名，相传舜耕历山（今济南千佛山）下，后人为舜立祠。《过舜祠》为张养浩诗文作品中可考第一文。原文："太古淳风叫不还，荒祠每过为愁颜。苍生有感歌谣外，黄屋无心揖让间。一井尚存当日水，九嶷空忆旧时山。能令子孝师千古，瞽叟元来不是顽。"
至元二十五年（1288年），十九岁的张养浩游济南白云楼，作《白云楼赋》。白云楼，元代济南名胜，为张荣所建，原址在今济南珍珠泉畔。这篇文章写成后，人们争相传抄，文章传到山东按察使焦遂那里，他的眼睛为之一亮，破例接见了张养浩，并推荐他做了东平学正。
至元二十九年（1292年），二十三岁的张养浩遵从父亲的意愿离开东平，到京城大都求仕。当时的平章政事不忽木看过张养浩的文章后，大为欣赏，便力荐他做了礼部令史。后来又推举他进了御史台。
至元三十年（1293年），张养浩经不忽木推荐为御史台掾吏。有一次，张养浩生病了，不忽木听说后前去探望他。当他看到这位堂堂的御史台家中竟朴实无华，别无长物。禁不住脱口赞叹道：“此真台掾也！”
元成宗元贞元年（1295年），朋友王友开突发疾病去世，张养浩为其撰写了墓志铭。通过这件事，结识了元代著名政治家元明善。
元贞二年（1296年），御史台掾期满，在家闲居。期间，上书于御史中丞董士选，以求官职。
元贞三年（1297年），张养浩被任命为中书省掾属。同年2月，改元大德元年。儿子雁奴出生。
大德四年（1300年），雁奴弟强出生。同年恩师不忽木去世。
大德六年（1302年），子雁奴夭亡，暂厝于文明门外广度寺之南原。作《子雁奴圹铭》。
大德七年（1303年），元明善因故免职出京，寓居淮南。张养浩送别，并作《送元复初序》。
大德九年（1305年），张养浩由中书省掾，选授堂邑县尹，作《初拜堂邑县尹》。在堂邑县张养浩带头捣毁各种滥设祠堂三十余所，并惩处强盗，保境安民，受到人民的称颂。
大德十年（1306年），张养浩在堂邑县辛劳任职，期间作《三事忠告》中《牧民忠告》篇。
大德十一年（1307年），在堂邑县任上，后权理博平县事。
元武宗至大元年（1308年），武宗即位后，封其弟爱育黎拔力八达（后为元仁宗）为皇太子，张养浩被东宫召至司经，未至，又改为太子文学，随即拜监察御史。作《三事忠告》中《风宪忠告》于御史任上。同年，元明善与张养浩同为太子文学。
至大二年（1309），朝廷议设立尚书省。张养浩上书说不支持设立。尚书省设立之后，张养浩又上书说这是变法乱政，将祸害天下。而御史台大臣压制了这些奏章而装作没有收到。后，武宗进行南郊行祭祀大礼，到了时辰他又推说身体不舒服，让大臣代替，结果，当天刮起大风，冻死了许多人。张养浩说道：“找错误的人来替代祭祀，所以上苍变化气候以示皇帝。“
至大三年（1310），张养浩在监察御史任上。上一封万言书，进献给皇帝，直陈时政“十害”，包括赏赐太多、刑禁太疏、名爵太轻、台纲太弱、土木太盛等，因为“言皆切直”，结果为“当国者不能容”，先是免除了翰林待制，后又编织罪名，将他贬为平民，永不得复用。张养浩深知后果严重，遂改换姓名，出走大都。
至大四年（1311），正月武宗驾崩，仁宗即位。旋即罢尚书省及之前的一系列变法。仁宗爱惜张养浩之才，召其出任中书省右司都事，随后为翰林待制。同时，元明善亦为翰林待制。
元仁宗皇庆二年（1313），元明善迁翰林侍讲学士，张养浩以翰林直学士代替元明善。在张养浩，元明善等人的积极推动下，皇庆二年11月，朝廷下诏将在皇庆四年（1315年）举行科举考试。
延佑二年（1315），元朝举办了第一次科举考试，张养浩以礼部侍郎的身份，与元明善、程钜夫等一起主持。为广纳人才，激励后学，张养浩建议这次考试不宜过严，即使对落榜考生也应给予一定照顾。他的主张得到了朝廷认可，由此网罗了诸如张起岩、许有壬、欧阳玄、黄溍等许多元代名士。恢复科举开启了读书人入仕的大门，登科的士子非常感激，纷纷要登门拜谢，却被张养浩婉拒，只是告诫他们说：“只要想着怎么用才学报效国家就好了，不必谢我，我也不敢受诸公之谢。”
延佑三年（1316），张养浩以礼部侍郎身份为朝廷征船舶于泉南（泉州）。一路游历江浙闽诸地，诗作《游西湖》、《游灵隐寺》、《过钱塘》、《建宁道中》、《兴化道中》、《福州》、《泉州》等。
延佑五年（1318），张养浩被擢为陕西行台制书侍御史，后改右司郎中。后张养浩任礼部尚书，主持当年科举考试，忽都达儿、霍希贤等五十六人及第。
延佑六年（1319），张养浩以礼部尚书的身份，奖掖后学。
延佑七年（1320），张养浩被任命为参议中书省事，作《加封孔子制词记碑》。仁宗去世，仁宗子硕德八剌即皇帝位，是为元英宗。
元英宗至治元年（1321年），正月初七，适逢元宵节，皇帝打算在宫禁之内张挂花灯做成鳌山，张养浩就上奏给左丞相拜住。拜住将奏疏藏在袖子里入宫谏阻，奏疏说：“世祖执政三十多年，每当元宵佳节，民间尚且禁灯；威严的宫廷中更应当谨慎。皇帝打算在宫禁之内张挂花灯，我认为玩乐事小，影响很大；快乐得少，忧患很多。我希望（皇上）把崇尚节俭思虑深远作为准则，把喜好奢侈及时行乐作为警戒。”英宗大怒，看过奏疏之后又高兴地说：“不是张希孟不敢这样说。”于是取消了点燃花灯的计划。下令赐给张养浩钱财布匹，来表彰他的正直。六月，时任参议中书省事的张养浩突然辞了，理由是父亲年迈，需要奉养，遂还乡。后朝廷召出任礼部尚书，张养浩不拜。十二月二十八日，张养浩父亲张郁去世，享年八十岁。其子张强，也在这一年去世。
至治二年（1322年），张养浩在家丁忧守孝。二月七日，好友元明善去世，作《挽元复初》。三月己巳，中书省大臣上书：“国学废弛，请令中书平章政事廉恂、参议中书事张养浩、都事孛术鲁翀等官员监督恢复。"张养浩未从之。
至治三年（1323年），张养浩继续在家丁忧，未终丧，朝廷又以吏部尚书之职召其任职，张养浩以能力不足请辞。清江人谕仁慕名张养浩，前来学习。八月，铁失与铁木迭儿之子锁南、知枢密院事也先帖木儿、大司农失秃儿等十六人发动政变，以阿速卫军为外应，杀死元英宗和拜住。随后，迎立晋王也孙铁木儿（泰定帝）即位。史称此事件为「南坡之变」。
元泰定帝泰定元年（1324年），朝廷以太子詹事丞，兼经筵说书之职召张养浩赴大都任职。张养浩准备赴任，到通州后又称病请辞。八月，济南会波楼圮坏，重修而成，张养浩游之，作《重修会波楼记》。
泰定二年（1325年），朝廷以淮东廉访使之职召张养浩，张养浩依旧不赴。为友元明善作《元公神道碑铭》，谕仁本学成归，作《送谕仁本序》以送之。
至治元年（1321年）至天历二年（1329年），八年间张养浩居故乡筑云庄（今济南市天桥区张公坟村），多与士人，文人，故人交往游玩，收集金石，著作有多部诗文曲赋游记碑铭等作品。居家八年间，朝廷七召不起。
泰定五年（1328年）七月，泰定帝驾崩，元文宗即位，其后朝廷发生多次政变，政局动荡。九、十月间，元文宗平定元天顺帝等人叛乱，改元天历。
元文宗，元明宗天历二年（1329年）正月，陕西大旱，朝廷特拜张养浩为陕西行台中丞。二月，张养浩接到任命后，立即把自己家里的财产都分给村里的穷人，便登上车子向陕西进发，碰到饥饿的灾民就赈济，看到饿死的灾民就埋葬。途中作《辞聘侍亲表》，欲归乡赡养老母。三月，路过华山，到西岳庙去求雨，哭拜在地上都爬不起来。二十九日作《西华岳庙雨文》，三十日，《西华岳庙催雨文》，以向上天求雨。四月一日，下雨后，作《谢雨文》等诗文以言欣喜之情。到陕西做官四个月，从没有回到家里住过，一直住在官府，晚上便向上天祈祷，白天就出外救济灾民，没有丝毫的懈怠。当时一斗米值十三贯钱，百姓拿着钞票出去买米，钞票稍有不清或破损就不能用，拿到府库中去调换，那些奸刁之徒营私舞弊，百姓换十贯只给五贯，而且等了好几天还是换不到，老百姓处境非常困难。于是张养浩检查府库中那些没有损毁、图纹可以看得清的钞票，得到一千八百五十多万贯，全部在它的背面盖上印记，又刻十贯和五贯的小额钞票发给穷人，命令米商凭钞票上的印记把米卖给他们，到府库验明数目便可换取银两，于是那些奸商污吏再也不敢营私舞弊。张养浩又率领富人家出卖粮食，为此又向朝廷上奏章请求实行纳粮补官的法令。张养浩听到民间有人为了奉养母亲而杀死自己儿子的事，为此大哭了一场，并拿出自己的钱救济了这户人家。七月二十七日，张养浩“得疾不起”，病逝于任上，享年60岁。
元文宗至顺二年（1331年），元朝廷下诏追赠张养浩摅诚宣惠功臣、荣禄大夫、陕西等处行中书省平章政事、柱国，追封滨国公，谥文忠。后人尊称为张文忠公。
推动恢复科举
元仁宗皇庆二年（1313年）在在张养浩、元明善等人的积极推动下，元朝廷于仁宗延祐二年（1315年）农历三月七日，在京城大都皇宫举行殿试（廷试），这是元朝开国以来举办了第一次科举考试。张养浩、元明善等人亦主考主持本次考试，最终录取护都答儿、张起岩等五十六人为进士。
延佑五年（1318年），张养浩再次主持当年科举考试，忽都达儿、霍希贤等五十六人及第。
关中赈灾
天历二年（1329年）朝廷以“关中大旱，饥民相食”，召其为陕西行台中丞前往赈灾时，他却不顾高龄体弱，随即“散其家之所有”登车就道，星夜奔赴任所。“无多惭，此心非为官。”（《西番经》）使他赴召的不是官爵，而是灾情严重激发起他为民承重的精神。赴官途中经洛阳、渑池、潼关，直达长安。一路行来，目睹灾民惨状，感历代兴废，写了数首怀古曲，意绪苍凉，流露出对本朝前景暗淡的哀叹，和对人民苦难的深切同情。到任之后，“凡所以力民者，无所不用其至”（危素《张文忠公年谱序》）。在陕西做官四个月，从来没有回到自己家里住过，一直住在官府，晚上便向上天祈祷，白天就出外救济灾民，一天到晚没有丝毫的懈怠，终因劳累过度卒于任上。消息传开，“关中之人，哀之如失父母”（《元史》本传）。
编写《三事忠告》
张养浩遵循儒家学说，始终言行一致。《为政忠告》代表了他一生主张为官清廉的主导思想。《为政忠告》又名《三事忠告》，其中《牧民忠告》作于当地方官员时，《风宪忠告》作于当监察官员时，《庙堂忠告》作于当中央官员时。三事忠告，就是对地方官员、监察官员、中央官员的真诚劝告。《为政忠告》（《三事忠告》）是元代吏道专著的重要组成部分，对于研究当时的政治思想、上下政务以及社会风气都有重要参考价值，对于后世的封建统治观念亦有相当影响。
以《牧民忠告》为例，分述拜命、上任、听讼、御下、宣化、慎狱、救荒、事长、受代、闲居之要义，“采比古人嘉言善行，自正心修身，以至事上惠下，除奸决疑，恤隐治赋，凡可为郡县楷式者，无不曲尽其宜，且简而易行，约而易守，名之曰《牧民忠告》”（林泉生《<风宪忠告>序》）。在“事长”篇中，张养浩提出六条准则，即各守涯分、宁人负我、处患难、分谤、以礼下人、不可以律己之律律人。论述言简意赅，如“不可以律己之律律人”指出，“同官有过，不至害政，宜为包容。大抵律己当严，待人当恕，必欲人人同己，天下必无是理也。”寥寥数语，尽得要领。无怪乎当时很多地方官吏“家藏一书，遵而行之”。这部著作虽非巨制，但对今天的领导者亦颇有启迪作用。
散曲大家
张养浩是元代散曲的代表作家之一，散曲创作奠定了他在中国文学史上的不朽地位。他的散曲结集为《云庄闲居自适小乐府》，简称《云庄乐府》，共收录他的散曲作品一百五十多首。另有多首题为“张云庄作”的艳曲，收在其他选本中。
内容决定形式。张养浩宽广的艺术视野、丰富的创作题材决定了他的作品不可能以婉约、缠绵为主。张养浩从学习前期豪放派散曲作品入手，因此也被视为元散曲豪放派的代表作家。特别是他的代表作《山坡羊·潼关怀古》，气势恢弘，感情沉郁，寓意深远，大大提高了散曲的表现力，堪称元曲中的一流佳作。作者在大部分散曲中表现的勤政爱民兼善天下的人道精神，全身远害寄傲林泉的避世思想，观照历史针砭现实的批判意识，使得他的作品具有丰富的思想内涵，从不同的侧面体现了张养浩美善兼具的人格情操和拯物济世的高尚襟怀。
张养浩从51岁赋闲故里，前后八年多时间。这期间，他“视荣华如风花之过目，鸟声之悦耳。以六合为家,四时为友，寄傲林泉，纵情诗酒”，写出了不少“接于目而得于心”的优美动人的诗文和散曲，《归田类稿》即是其闲居在家时的代表作品集。
诗文名家
张养浩不仅以散曲知名，他的诗歌成就也很高，能够与“元诗四大家”相媲美，并且内容充实，题材广泛，在咏史纪游、反映现实政治、民生疾苦方面，都有上乘之作。而且语言优美成熟，特别善于写景抒情，具有很强的表现力。
其散文也风貌独特，体裁繁多。在他长期的政治生涯中，他结合实际写的很多政论文大都有感而发，论述精辟，条理清晰，不但在当时起到积极的作用，对我们今天的政治、经济、生活各方面也能起到积极的借鉴作用。
张养浩的诗文，晚年编定为《归田类稿》四十卷，今存二十四卷，收录于《四库全书》中。他的政论集名《三事忠告》，包括《牧民忠告》、《风宪忠告》、《庙堂忠告》。他还曾有一部词集《江湖长短句》，可惜今已散佚。
苏天爵在《七聘堂记》中赞张养浩：“执法牧民为贤令，入馆阁则曰名流，司台谏则称骨鲠，历省台则号能臣，是诚一代之伟人欤！”
李士瞻赞其：“禀天地正大之气，学圣贤正大之学，蕴之而为道义，发之而为文章，推之而为政事、功业，无一而非正大之寓也。
危素《张文忠公年谱序》："观公之去就大节，从容得宜，非所谓有志之君子者耶？使公得君而行乎国政，所至又可量耶？"
明代进士郑瑛称赞："其（指张养浩）为国为民，忧勤惕励之心，蔼然溢于文章政事之间。"
朱权在《太和正音谱》中曾称赞张养浩曲风：“如玉树临风”。
