1736年1月19日詹姆斯·瓦特出生于苏格兰格拉斯哥附近，克莱德河湾（Firth of Clyde）上的港口小镇格林诺克。
瓦特的父亲是熟练的造船工人并拥有自己的船只与造船作坊，还是小镇的官员。瓦特的母亲Agnes Muirhead出身于一个贵族家庭并受过良好的教育。他们都属于基督教长老会并且是坚定的誓约派。尽管瓦特出自于宗教家庭，但他后来还是成为了自然神论者。
瓦特小时候因为身体较弱去学校的时间不多，主要的教育都是由母亲在家里进行。瓦特从小就表现出了精巧的动手能力以及数学上的天分，并且接受了很多苏格兰民间传说与故事。
瓦特17岁的时候，母亲去世了，而父亲的生意开始走下坡路。瓦特到伦敦的一家仪表修理厂作了一年的徒工，然后回到苏格兰格拉斯哥打算开一家自己的修理店。尽管当时苏格兰还没有类似的修理店，但是由于他没有做够要求的7年徒工，他的开店申请还是被格拉斯哥的锤业者行会（管理所有使用锤子的工匠）拒绝了。
1755年瓦特离开苏格兰，到伦敦寻求仪器制造匠的培训。他被康西尔的约翰·摩根所接纳。
1757年，格拉斯哥大学的教授提供给瓦特一个机会，让他在大学里开设了一间小修理店，这帮助瓦特走出了困境。其中的一位教授，物理学家与化学家约瑟夫·布莱克（Joseph Black）更是成了瓦特的朋友与导师。
1757年格拉斯哥大学任命瓦特为其正式“数学仪器制造师”，并在校园里安排了一个车间。
瓦特的小店开业5年后，在朋友罗宾逊教授的引导下，瓦特开始了对蒸汽机的实验。直到此时，瓦特也还从未亲眼见过一台可以运转的蒸汽机，但是他开始建造自己的蒸汽机模型。初步的实验失败了，但是他坚持继续实验并且阅读了所有他能找到的有关蒸汽机的材料，独立地发现了潜热的重要性（尽管这在好几年前就被布莱克教授发现了，但瓦特当时并不知情）。
1763年，瓦特得知格拉斯哥大学有一台纽科门蒸汽机（Newcomen steam engine），但是正在伦敦修理，他请求学校取回了这台蒸汽机并亲自进行了修理。修理后这台蒸汽机勉强可以工作，但是效率很低。经过大量实验，瓦特发现效率低的原因是由于活塞每推动一次，气缸里的蒸汽都要先冷凝，然后再加热进行下一次推动，从而使得蒸汽80%的热量都耗费在维持气缸的温度上面。
1763-1765年瓦特在修理纽科门泵时，设计冷凝器解决效率低的问题，罗巴克把瓦特的发明用于商业上。
1765年，瓦特取得了关键性的进展，他想到将冷凝器与气缸分离开来，使得气缸温度可以持续维持在注入的蒸汽的温度，并在此基础上很快建造了一个可以连续运转的模型。
但是要想建造一台实际的蒸汽机还有很长的路要走。
首先是资金，布莱克教授提供了一些帮助，但更多的资助来自于约翰·罗巴克（John Roebuck）。罗巴克是一位成功的企业家，著名的卡伦钢铁厂的拥有者，在罗巴克的赞助下，瓦特开始了新式蒸汽机的试制，并成为新公司的合伙人。
试制中的主要困难还在于活塞与气缸的加工制造工艺上。当时的工艺水平下钢铁工人更像是铁匠而不是机械师，所以制造的结果很不满意。此外由于当时的相关专利申请需要国会的认可，大部分的资金都花费在相关程序上。由于资金的短缺，瓦特不得不另找了一份运河测量员的工作，并一干就是8年。
这之后，罗巴克破产，相关专利都由伯明翰一间铸造厂老板马修·博尔顿接手。瓦特与博尔顿从此开始了他们之间长达25年的成功合作。
与博尔顿的合作，使得瓦特得到了更好的设备资金以及技术上的支持，特别是在加工制造工艺方面。新型蒸汽机制造的一个主要困难在于活塞与大型气缸的密合，这个问题最终被约翰·威尔金森（John Wilkinson）解决，他在改进加农炮的制造时提出了一种新的精密镗孔加工技术，可以用于蒸汽机的制造。
1774年瓦特将自己设计的蒸汽机投入生产。
1776年博尔登-瓦特蒸汽机在波罗姆菲尔德煤矿首次向公众展示其工作状态。
1776年，终于第一批新型蒸汽机制造成功并应用于实际生产。这批蒸汽机由于还只能提供往复直线运动而主要应用于抽水泵上。在之后的5年中，瓦特赢得了大量的订单并忙于奔波于各个矿场之间安装由这种新型蒸汽机带动的水泵。在博尔顿的要求下，瓦特开始继续研究如何将蒸汽机的直线往复运动转化为圆周运动，以便使得蒸汽机能为绝大多数机器提供动力。一个显而易见的解决办法是通过曲柄传动，但是该项专利所有人，约翰·斯蒂德(John Steed)要求同时分享瓦特此前的分离冷凝器的专利，这一要求被瓦特坚决地拒绝了。
1781年，瓦特公司的雇员威廉·默多克（William Murdoch）发明了一种称为“太阳与行星”的曲柄齿轮传动系统，并以瓦特的名义成功申请了专利。这一发明绕开了曲柄专利的限制，极大地扩展了蒸汽机的应用。之后的6年里，瓦特又对蒸汽机作了一系列改进并取得了一系列专利：发明了双向气缸，使得蒸汽能够从两端进出从而可以推动活塞双向运动，而不是以前那样只能单向推动；使用节气阀门与离心节速器来控制气压与蒸汽机的运转；发明了一种气压示工器来指示蒸汽状况；发明了三连杆组保证气缸推杆与气泵的直线运动。由于担心爆炸的危险以及泄露问题，瓦特的早期蒸汽机都是使用低压蒸汽，后来才引进了高压蒸汽。所有这些革新结合到一起，使得瓦特的新型蒸汽机（联协式蒸汽机）的效率是过去的纽科门蒸汽机的5倍。
1782年瓦特的双向式蒸汽机取得专利，同年他发明了一种标准单位：马力。
1782年，韦奇伍德在伊特鲁里亚陶瓷厂大规模采用博尔顿——瓦特铸造厂生产的联协式蒸汽机和伯明翰厂生产的动力机床，进行机械化陶瓷生产。
1784年，瓦特对联协式蒸汽机进行了改进，增加了一种自动调节蒸汽机速率的装置，使它能适用于各种机械的运动。从此之后，纺织业、采矿业、冶金业、造纸业等工业部门，都先后采用蒸汽机做为动力。
1785年以后，瓦特改进的蒸汽机首先在纺织部门投入使用，受到广泛欢迎。
1794年，瓦特与博尔顿合伙组建了专门制造蒸汽机的公司。在博尔顿的成功经营下，到1824年就生产了1165台蒸汽机。瓦特与博尔顿都赚到了不少钱。
瓦特在半退休之前也有很多其它发明，比如他发明了一种新的利用望远镜测距的方法，一种新的透印印刷术，对油灯进行了改进，蒸汽碾压机以及延续至今的机械图纸着色法。
1800年瓦特的专利与博尔顿的合作到期，他于同年退休。但他们的合作延续到下一代，马修·博尔顿与小詹姆斯·瓦特继续合作，同时吸收了威廉·默多克为合伙人，保证了了公司的持续成功。瓦特退休后曾与他的第二任妻子到法国与德国旅行，并且在威尔士购买了一所住宅。
1819年8月25日，83岁的瓦特于英国斯塔福德郡，汉兹沃斯（Handsworth, Staffordshire）的家中去世。
1785年瓦特被接受为英国皇家学会院士。
1814年成为法国科学院8名外籍会员之一。
