1901年1月23日，浙江省东阳县下湖严村的一户农家迎来了一个小生命，父亲给他取名“严济慈”。由于家境清贫，严济慈的童年几乎是在艰辛的劳作中度过的。还在襁褓之中，母亲吱呀的纺织车声便是他的催眠曲；小身板还不及牛高的时候，他便和村里的其他孩子一样，成了放牛的小牧童。
1908年，严济慈进入严氏宗祠蒙馆读书，作为家中的长子，严济慈有幸入学读书，他也是姐妹兄弟五人中唯一上学的。严济慈没有辜负父母的期望，聪颖好学，刻苦上进。9岁时，父亲从杭州书摊上买回一本从日文翻译过来的《笔算数学》小学教材，他如获至宝，独自一人钻研，竟能无师自通。
1910年底，进入离家30里外的东阳县城天官第小学插班读书。
1914年2月，14岁的严济慈以第一名的成绩，考入东阳县立中学（今东阳中学）。四年中，他学习成绩年年第一，尤其在数学方面表现出了善解难题、怪题的特殊才能。三年级时因受校长之命，代替请假老师为一年级学生讲授数学而闻名县城。
1918年夏，严济慈参加全国六大学区高师联考，以浙江省第一名的成绩考入南京高等师范学校（同时还考取了免交学费但需食宿自理的河海工程学校）物理系（现为南京大学物理学院），是家乡第一名考上著名大学的学生，为此，当时浙江省教育厅将东阳中学列为重点中学。
1918年秋，严济慈告别了故乡的小山村，告别父耕母织的贫困农民家庭，走进了南京高等师范学校（后改为国立东南大学）大门，入学南高时初读商业专修科（现上海财经大学），一年后转工业专修科，再一年转数理化部读二年级，师从数学家何鲁、熊庆来，物理学家胡刚复等人。
1921年，被聘为“南高”附属中学和国立东南大学暑期学校兼课数学教师，一年后又担任本校《数理化》杂志主编。
1923年夏，以第一名的成绩毕业于南京高等师范学校数理化部，因已修满大学规定的学分同时获得国立东南大学物理系（现为南京大学物理学院）理学学士学位，成为国立东南大学时期第一届唯一的毕业生（该校应到1925年才有毕业班，严济慈获该校1923年第壹号毕业证书）。大学期间自学法文，在中国科学社服务，并编著教科书《初中算术》和《几何证题法》，由商务印书馆出版。
1923年后，自费从上海赴法国留学，在法国巴黎大学学习，仅用一年时间，就同时考得巴黎大学3门主科微积分学、理论力学和普通物理学的文凭，于1925年夏获数理硕士学位，1927年获法国国家科学博士学位。
1927年，回国任上海大同大学、中国公学，暨南大学和南京国立第四中山大学（由原国立东南大学等校合并成立）物理、数学教授，并兼任正拟建中的中央研究院理化实业研究所筹备委员。
1928年夏，他出席了在苏州召开的中国科学社年会，并当选为理事。
1931年后，又在法国巴黎大学从事研究工作，回国后任北平研究院物理研究所所长，兼镭学研究所所长。
1935年，被选为法国物理学会理事。
1945年8月，应美国国务院的邀请，作为访问教授到美国各地讲学，为期一年。
1948年，当选为中央研究院院士，同年当选为中国物理学会理事长，北平科学工作者协会理事长，加入了九三学社。
1949年后，任中国科代秘书长、中国科联秘书长、中国科学院办公厅主任兼应用物理研究所所长。
1952年后，任中国科学院东北分院院长。
1955年，当选中国科学院学部委员（后改称院士），后任技术科学部主任。
1958年6月8日，中国科技大学筹备委员会成立，严济慈任筹备委员会委员；而后中国科学技术大学成立，严济慈兼任中国科学技术大学教授。
1961年，严济慈与华罗庚一起出任科大副校长，他负责领导全校的教学工作以及4个系和3个教研室、处；同年，严济慈出任科大校务委员会副主任，主持校务工作。
1969年底，中国科技大学从北京迁出。几经波折，1970年落户合肥，损失惨重。“文革”结束后，1977年8月中国科学院在北京召开第一次中国科技大学工作会议，决定全面建设中国科技大学。严济慈副校长在开幕式上赞扬科大在困难时期做得很好，比其他名校还好；说他听到很多人说科大的毕业生好，就非常高兴。此后，严济慈积极投入到中国科技大学的第二次创业之中，他担任中国科技大学研究生院筹建小组主任，领导一班人开始筹划在北京玉泉路原科大旧址创建中国第一所研究生院。
1978年3月1日，中国科技大学研究生院在北京正式成立，严济慈出任中国第一所研究生院的首任院长。
1979年，严济慈与李政道联合发起、共同建立了中美联合招考赴美物理研究生项目CUSPEA（China-United States Physics Examination and Application Program），培养年轻的物理学留学人才。
1980年1月，加入中国共产党；同年2月，继郭沫若之后出任中国科学技术大学第二任校长；同年7月，严济慈与中国科学院副院长、科大第一副校长李昌在北京共同主持召开了中国科学院第二次中科大工作会议，会议确定了培养高水平的学士、硕士、博士学位完整体系的培养目标。
1983年11月，上书邓小平，要求将科大增列为“七五”期间国家重点建设严济慈的10所大学之一，得到邓小平同意。
1985年4月，84岁的严济慈不再担任中国科学技术大学的实际领导职务，转而担任中国科学技术大学的名誉校长。
1988年5月，严济慈为学校中国科学技术大学建校30周年题词：“创寰宇学府，育天下英才”。这句话高度凝炼，大气磅礴，寄托了老校长的深情厚望，为学校提出了新的宏伟目标；同年6月6日，南京工学院更名东南大学，严济慈出席更名庆典。
1992年，国家在“八五”计划纲要中提出“要努力建设好一批重点大学”，严济慈分别给江泽民总书记、李鹏总理、万里委员长写信，陈述理由，要求将中国科学技术大学列入国家“八五”期间重点支持高校。他的信得到江泽民等中央领导同志的批示，中国科学技术大学得到了国家在“八五”期间的重点支持，这也是中国科技大学在中部地区成功创办精品大学的重要原因之一。
1996年11月2日，严济慈在北京逝世，终年96岁。
严济慈在压电晶体学、光谱学、地球物理学等方面都做出了做出重要成果，是中国现代物理学研究工作的创始人之一，也是中国光学研究和光学仪器研制工作的奠基人之一。
压力对照相乳胶感光性能影响的研究
1931年初，严济慈主持北平研究院物理研究所后，即在钱临照的协助下，率先开展压力对照相乳胶感光性能影响的研究，于1932年发表了这方面的第一篇论文。他发现压力能减弱照相乳胶感光性能，压力愈大，效应愈显著，其数量关系为E/E’=f（P），E为照相片在压力P下得光密度d所需之光照度，E’为不受压力下得光密度d之光照度。实验证明，P<200千克/厘米2时，E/E，与P成正比例。还发现，光波愈短，这种效应愈不明显；如用γ射线为光源，则反之，压力愈大，效应愈不明显。这项研究吸引了一些科学家相继开展工作，如德国H 巴克斯东教授就运用严济慈创造的实验仪器和方法进行研究，发表了论文《静压力对照相乳剂感光性之影响》。这项研究与工业生产、民生应用和科学实验有着密切的关系。当时对照相乳胶感光性能尚少理论研究，按现代晶体缺陷理论也许能解释压力效应。1933年9月，北平研究院院长李石曾教授特邀严济慈到上海世界社演讲，介绍这项成果，并撰文称其“为国学中光学之发明而为国学之光”。
测定臭氧层紫外吸收系数
严济慈在钟盛标的协助下，于1932年采用照相光度术方法，精确测定了臭氧在全部紫外区域（215—345纳米）之吸收系数，并发现若干新光带。1933年法国M D 夏隆热和MmeL 勒费弗尔利用严济慈的研究成果，进行臭氧紫外吸收区长波端之引长研究，证实了严济慈发现的那些新光带。后来，世界各国气象学家即利用严济兹的研究成果测定高空臭氧层厚度的变化，长达二三十年之久。法国科学院前院长J 库隆在1980年5月法国科学院欢迎严济慈的会议上致辞说：“我们中的许多人，特别是雷蒙·拉塔尔热院士和我本人，都读过或利用过严济慈和钟盛标关于臭氧吸收的出色著作。”美国哈佛大学R M古迪教授1964年在他的《大气辐射》专著中记载了严济兹1933年的这项重要成果，表明它直到1953年才有新的进展。
测定居里压电效应“反现象”
1880年J 居里和P 居里兄弟发现了晶体压电效应的“正现象”——石英受压后产生电量的变化。在1927年以前，虽然居里的老师G 李普曼依据热力学方法，应用能量守恒和电量守恒定律，推断存在“反现象”——石英在电场下的形变，而且正、反现象的两个系数均为6.32×10-8，但居里兄弟只能通过实验证明其存在，而无法测定“反现象”的数据。其困难在于，石英片两面施加电场后，厚度的变化用普通的机械方法是不可能测得的。严济慈经过一年半的摸索和实验，采用单色光干涉法测量，攻克了难关。他发现在垂直于电轴的面上施加电压，晶片形变量与其厚度无关，而与电压强度有关。电压不大时，晶片厚度的形变符合居里定律，即形变比例于静电场的强度，系数为6.4×10-8，与理论结果符合。若电压增大，电场强度与形变偏离线性关系，电压达16×104伏时形变趋于饱和。在垂直于光轴的面上施加电压时，晶片厚度的变化极为微小，与绝缘体无异。水晶由于电压而产生的这种形变是瞬时的，无滞后现象。他还观察到在水晶上施加电压而产生的光双折射现象，发现在垂直于电轴方向的水晶面上施加电压时，在这个方向的双折射增大，而垂直于光轴与电轴的第三轴方向的双折射减小。如所施加的电压为负，则结果相反。这种效应与克尔效应不是一回事，是一种新效应。
发现水晶扭电定律
严济慈在钱临照的协助下，研究在沿光轴做成的实心与空心两种水晶圆柱体上施加扭力而产生的起电现象及其扭转压电振荡问题，发现水晶扭电定律，共发表12篇论文。他发现空心水晶圆柱体的电振荡，当圆柱内径与外径之比近于05时，振荡频率随温度之变化为0.5×10-6/℃，即事实上温度系数为零。还发现振荡频率只由内径与外径之比来决定。因此，可以用空心水晶圆柱体制作温度系数为零的各种振荡频率的稳频器。这种稳频器比起居里切割、戴伊切割要优越得多。这对于发展新的无线电稳频器，控制、检测无线电波频率，以及为后来在抗日战争期间实际生产石英振荡器提供了理论根据。
自1927年至1938年间，严济慈单独或与合作者一起共发表53篇论文，其中前11篇是他1927－1931年在法国的工作时发表，后42篇是在北平研究院物理所的工作时发表。53篇论文中，法文40篇，英文12篇，德文1 篇，除4篇在英文版《中国物理学报》发表外，均刊登在法、英、美、德等国重要学术刊物上（如《法国科学院周刊》、《自然》、《物理评论》等）。1986年，科学出版社汇集出版了《严济慈科学论文集》；此外，他还编著了从初中到大学的10种数学、物理教科书，如《初中算术》、《几何证题法》、《普通物理学》、《高中物理学》、《初中物理学》、《热力学第一和第二定律》、《电磁学》等。
主要论著有：
1、严济慈，初中算术，商务印书馆，1923。
2、严济慈，几何证题法，商务印书馆，1928；语体文新一版，高等教育出版社， 1928。
3、严济慈，普通物理学，正中书局，1947。
4、严济慈，高中物理学，中国科学图书仪器公司，1948。
5、严济慈，初中物理学，三联书店，1950。
6、严济慈，热力学第一和第二定律，人民教育出版社，1966。
7、严济慈，严济慈科学论文集，科学出版社，1986。
8、严济慈，电磁学，高等教育出版社，1989。
9、严济慈，居里和居里夫人，科学技术文献出版社，1989。
10、严济慈，严济慈科技言论集，上海教育出版社，1990。
1943年11月，严济慈因发明磨制晶体新法对国防科学颇有贡献，经国防科学技术策进会推荐而受到国民政府奖励。
1946年夏，由于对抗日战争的贡献，被国民政府授予为抗战胜利而颁发的三等景星勋章。
1988年，获法国总统授予的法国荣誉奖军团军官勋章。
