1891年12月1日，饶毓泰出生于江西临川钟岭，幼年在叔父和舅父教导下学习《四书五经》。
1903年，饶毓泰进入抚州中学堂（现江西省抚州市第一中学）学习。
1905年，废科举三年后，饶毓泰只身去上海，就读于中国公学；后转入“中国新公学”，饶毓泰的高班同学胡适，曾在新公学教其英语。
1911年，饶毓泰以优异成绩毕业于上海南洋公学（上海交通大学前身）。
1912年，饶毓泰回到故乡，进入临川中学（现江西省抚州市第一中学）任教半年。
1913年，饶毓泰考取江西省公费留学，初入美国加州大学，后转芝加哥大学，攻读物理学。
1917年冬，饶毓泰获得芝加哥大学物理系学士学位。
1918年，饶毓泰进入哈佛大学研究院，后转入耶鲁大学和普林斯顿大学，在普林斯顿大学师从物理学家康普顿教授。
1921年，饶毓泰获得普林斯顿大学硕士学位。
1922年，饶毓泰获得普林斯顿大学哲学博士学位，博士论文是研究低压电弧的电子发射速率的实验成果。同年8月返回祖国，应南开大学校长张伯苓的聘请，来到南开大学任教授，创立物理系并任主任（至1929年8月）。
1929年，饶毓泰获中华教育文化基金董事会奖助金，赴德国莱比锡大学波茨坦天文物理实验室进修，从事原子光谱线的斯塔克效应的研究。经过三年的努力，完成了《论铷和铯的基本线系的二次斯塔克效应》论文。
1932年，饶毓泰回国任北平研究院物理研究所研究员。
1933年，饶毓泰到北京大学任物理系主任
1935年，饶毓泰兼担任北京大学理学院院长。
1937年，抗日战争爆发后，饶毓泰先后在湖南长沙临时大学（西南联合大学前身）和昆明西南联合大学任物理系主任。期间培养了杨振宁、黄昆、张守廉、邓稼先、李政道等一大批优秀物理学家。
1944年，饶毓泰休假到美国，与A．H．尼尔森（Nielsen）等合作进行分子光谱研究。
1947年初，饶毓泰回国，继续担任北京大学理学院院长和物理系主任等职务。
1948年，饶毓泰当选第一届中央研究院院士。
1949年，饶毓泰拒绝去台湾，继续在北京大学任教；1949—1951年，继任北大理学院院长兼物理系主任、学校校务委员。
1952年，北大院系调整时，饶毓泰辞去院、系领导职务。
1954年以后，饶毓泰先后当选为第二、三届全国政协委员、四届政协常委。
1955年，饶毓泰当选为中国科学院学部委员。
1966年，文化大革命中遭到打击和迫害，饱受折磨。
1968年10月16日，“清理阶级队伍”时，饶毓泰在北京大学燕南园51号上吊自杀身亡。
1978年，饶毓泰平反昭雪。
1922年，在美国权威杂志《物理评论》上发表论文《水银蒸气的低压弧光和它对荧光的影响》，回答了当时世界性难题“在小于最小电离电动势的电压下，产生电离所需要的能量问题”，在物理学界产生了较大的影响，荣获哲学博士学位。这是当时气体导电研究的一项新成就，饶毓泰则是在中国近现代物理学“开垦播种”阶段十人世界物理学的先声人物之一。
饶毓泰研究了气体导电过程，对低压汞弧放电机理研究做出了重要贡献；在倒斯塔克效应、分子光谱等方面取得很有意义的研究成果；先生毕生致力于中国物理学教学和科研事业，创办南开大学物理系，长期担任北京大学物理系主任，大力建设研究实验室，使北京大学物理系迅速位居国内物理教学和研究的前列。
饶毓泰采用启发式教学方法，课堂讲授引人入胜。讲课能抓住本质，突出重点，基本概念反复阐述，有时还讲一些科学史上很有启发性的事例，所以学生受益匪浅。当时南开大学数学、物理、化学等系的学生，很多人曾受教于饶毓泰，其中不少人后来成为知名学者，如吴大猷、马大猷、吴大任、郭永怀、马仕俊、江泽涵、申又振、陈省身、郑华炽、郭永怀等一批知名物理学家。
这一时期，他还担任国内教育部特约编辑、中央研究院物理研究所特约研究员、国立北平科学研究院海外研究员等职。他及时传递国外最新的科研信息， 与国内的物理学界保持着密切的联系。1932年，回国应聘于北平研究院物理研究所研究员。次年调入北京大学，先后担任物理系教授、系主任，自1935年起兼任理学院院长。
抗战期间，北大南迁至昆明，在西南联大任物理系教授、系主任，亲自开设和讲授《光学》、《光的电磁理论》等课程。饶毓泰德高，资深望重，他是“部聘教授”。他和联大许多有名的教授，如吴有训、叶企孙、赵忠尧、周培源、吴大猷、王竹溪、张文裕、郑华炽、霍秉权等人齐心协力，精心培育了不少优秀人才，如杨振宁、黄昆、张守廉、邓稼先、李政道等。这在中国科学教育史上堪称辉煌的一章。
1944年，饶毓泰再次自费赴美，与人合作进行分子光谱的研究，测定了光谱的退偏速度，获得了含同位素气体分子的转动光谱和分子内部运动的重要信息。1947年，回国继续担任北大理学院院长兼物理系主任。在原子、分子光谱研究中取得的丰硕成果，奠定了他在学术界中的崇高地位，人们把他和叶企孙、吴有训、严济慈并称为中国物理学界的“四大名旦”。1947年初回国，继续担任北京大学理学院院长和物理系主任等职务，并开设多门课程。
1948年3月，饶毓泰当选为中央研究院第一届院士。北平解放前夕，国民党政府特派飞机接饶毓泰去台湾。但他不顾威胁利诱，断然予以拒绝，坚决留在北平，终于迎来了1949年1月31日的北平和平解放。
解放后，继续在北京大学任教。1949-1951年，继任北大理学院院长兼物理系主任、学校校务委员。1952年北大院系调整时，辞去院、系领导职务。1954年以后，先后当选为第二、三届全国政协委员、四届政协常委。1955年6月，中国科学院学部成立大会召开，饶毓泰被评选为新中国首届院士（数学物理学部委员）。
饶毓泰后来虽然年事已高，身体不好，但仍一如既往地坚持自编讲义，为中、青年教师和外校进修教师开设了《原子光谱》、《气体导电基本过程》、《光的相干性理论》、《塞曼斯效应与共振辐射》、《荧光辐射的强度与偏振》、《光磁双共振》等反映世界最新科技发展课程，帮助青年教师赶上激光问世后光学和光谱学迅速发展的步伐。
在“文化大革命”中遭到打击和迫害，于1968年10月16日含冤自尽离世。
素来沉默寡言的饶毓泰在逝世前两天的教研室会议上语重心长地说：“解放前我们看到祖国落后，被外国人看不起，很难过。如何使中国富强起来呢？当时想的是科学救国的道路。解放后学习了一些马列原著和毛主席著作，思想上受到很大教育，特别是毛主席关于全心全意为人民服务的思想，对自己的教育最深刻。”最后他难过地说：“我们这样的人已经老了，没有用了。今后建设国家的担子落在你们年轻人身上。”这反映了科学界老前辈的真诚、殷切的希望。
1978年，邓小平、乌兰夫等党和国家领导人在为饶毓泰平反昭雪的追悼会上送了花圈，方毅、王首道等参加了追悼会。
1984年，北大物理系光学教研组根据他生前的遗愿及其弟侄的要求，将他生前留下的5万元积蓄设立“饶毓泰奖学金”，以鼓励先进，促进科学事业的发展。
饶毓泰被誉为“中国物理学界泰斗”，南开大学物理系的创建人、理学院的奠基人之一。
吴大猷说：“学生由他获益处，不在流畅的演讲而在其对学术广解之深，对求知态度之诚，对学术的欣赏与尊敬．以及为人的严正不阿的人格的影响、”并且，对吴大猷“以后的学习、工作和生活起到了关键的、亦可以说是举足轻重的影响”。
