于慎行少年时代天资极高，学习勤奋，17岁便考中举人。乡试放榜次日，按例举行乡饮之礼，欢宴考官和中式举人，谓之鹿鸣宴。主考官非常器重于慎行这位青年才子，提出在鹿鸣宴上为他举行冠礼（即成人之礼），于慎行以未奉父命而婉辞，一时传为美谈。
明隆庆二年（1568年），于慎行中进士，选为庶吉士。散馆后，授翰林编修。万历初年，升为修撰，充当皇帝的日讲官。日讲原都是翰林院年高资深的学者充当，像于慎行20多岁年纪便成为皇帝老师的极为罕见。
于慎行为人忠厚平恕、襟怀坦白。不管对皇上、对首辅还是对同僚皆心胸坦荡、真诚相待。有一次，于慎行等人讲课完毕，神宗让人拿出许多历代字画，叫他们赋诗题字。于慎行字写的不好，只好自己作诗，请人代题，并当众承认自己写不好字。神宗很赞赏，当即写了“责难陈善”四个大字赐他，词林传为盛事。万历初年，张居正当国，他进行了一系列改革，解决了明朝中期许多严重的社会问题，为明朝政治经济的稳定发展做出了很大贡献。但张居正个人作风独断专行，钳制下僚、压制百官，引起朝中文武官员普遍不满。御史刘台弹劾张居正专恣不法，被下狱谪戍。同僚皆畏张居正之势，不敢再见刘台。于慎行不管这些，亲自登门看望刘台。万历六年（1578年），张居正父亲病故，他不想尊制守丧，授意门生提出“夺情”。神宗予以批准，举朝大哗。于慎行与其他大臣一起疏谏，以纲常大义、父子伦理劝神宗收回成命，张居正很不高兴。一次，他见到于慎行时说：“可远，你是我最赏识的学生之一，我平时待你不薄，没想到你也这样对我！”于慎行语重心长地对他说：“正是因为你对我不错，我才不得不这样啊！”于慎行担心张居正失去朝野上下的拥护，但张居正没有听懂他的话。万历十年（1582年），张居正死去，反对他的势力执掌了朝政，左右了神宗。神宗下令查抄张居正的家。于慎行在这种情况下，不避嫌怨，写信给主持此事的丘橓，请他照顾张居正80多岁的老母和不成年的幼子。丘橓给张家保留了住宅和足够的土地。于慎行的高风亮节、古道热肠受到朝中一片赞誉。万历十七年（1589年）七月，他升任礼部尚书。
此时，神宗的长子已经9岁，是王妃所出。神宗不喜欢王妃和她这个儿子，他想立郑妃所生的皇次子为东宫。但是，王妃名分在郑妃之前，神宗不好把这一想法明说，故而迟迟不立太子。满朝文武见皇长子日渐长大，不能正位进学，非常着急。自万历十七年起，不断有人提出立储问题，请神宗早建东宫。于慎行身为礼部尚书，对此事义不容辞。他连疏极谏，神宗非常生气，再三降下严旨，责备于慎行“以东宫要挟皇上。”于慎行说：“册立之事，是臣部职掌，我如果不说，是为失职。请皇上速决大计，我宁可弃官归里。”神宗很不高兴，大骂于慎行“疑上”、“淆乱国本”，把礼部大小官员都停了俸禄。正在这时，发生了山东乡试泄题事件。于慎行引咎辞职。万历十九年（1591年）九月获神宗批准，归隐故乡。
他家居10余年，朝野上下多次荐他出山，神宗皆不允。至万历三十五年（1607年），东宫已立、国本确定，廷推内阁大臣，于慎行名列7人之首。神宗命他以原官加太子少保兼东阁大学士入阁办事。这时候，于慎行已经重病缠身，勉强到京进谒。不数日，卒于京华官邸，年63岁。赠太子太保，谥文定。
主要诗作
《驱车上东门行》、《子夜歌四首》、《子夜春歌二首》、《子夜夏歌二首》、《子夜秋歌二首》、《子夜冬歌二首》、《感怀》、《杂诗三首》、《长安道》、《杨柳青道中诗》等。现存诗作九十四首。
于慎行在家闲居16年，他探讨当世得失之故，旁搜博采，属词比事，写成《史摘漫录》、《谷城山馆文集》42卷，《谷城山馆诗集》20卷，《读史漫录》14卷，《谷山笔麈》18卷。尤其是他的《谷山笔麈》记述了明朝万历以前的典章、人物、兵刑、财赋、礼乐、释道、边塞诸事，考溯精当，纤悉具备。为研究明代社会政治、经济、文化、军事、宗教不可多得的史料，具有很重要的参考价值。另有《谷城山馆诗集》20卷和《谷城山馆文集》42卷手稿，现存山东省图书馆。回乡家居时，他关心桑梓事业，参予重修《东阿县志》，主持编撰《兖州府志》。他于万历七年（公元1579年）写《东昌府城重修碑》。于慎行与冯琦、公鼐并称万历前期"山左三家"，三人标举"齐风"，共同推动了万历前期山左诗坛的发展。他的泰山诗文，数量上超过王世贞，并有自己鲜明的特色，足可与前、后七子相颉颃。
于慎行官至明朝礼部尚书，太子少保兼东阁大学士。史书中，于慎行文学成就超群，但个性保守，恪守儒家礼制。纵观于慎行40年仕途，曾三次罢官，22年赋闲在家，最长的一次长达17年。有史学家评论，他秉性忠诚，是明代官场上的异类。
钱谦益《列朝诗集小传·于阁学慎行》：于慎行是明末著名的政治家、史学家、文学家。他生当隆庆、万历年间，起而反对李攀龙等人一味因袭模仿为“复古”的弊病。由于他“读书贯穿经史，通晓掌故”，“学有根柢，词知典要”，所以其诗文“春容弘丽，一时推大手笔”，被推称“文学为一时冠”。
清代纪昀评价他的诗“典雅和平，自饶清韵”，对于“后七子”的弊卷端能够“矫枉而不过直，抑尤难也。”
