阿合马早年生平不详，只知他是察必皇后的父亲按陈那颜的陪嫁奴隶。
中统三年（1262年），忽必烈任命他兼管中书左右部，兼任诸路都转运使，专门委任他处理财政赋税方面的事。阿合马上奏忽必烈下令分条规划，向各路运司宣布晓谕。
中统三年（1263年），因为河南钧州、徐州等州都有炼铁设备，请朝廷授予宣牌，以振兴冶炼的利益。忽必烈把开平府升格为上都，又任命阿合马为同知开平府事，兼管中书左右部照旧不变。阿合马上奏请求任命礼部尚书马月合乃兼管已经清查到的三千户没有户籍的百姓，加强炼铁行业，每年上缴铁一百另三万七千斤，用这些铁铸锻农具二十万件，换成粮食上缴给公家的一共有四万石。
至元元年（1264年）正月，阿合马上奏说：“太原的百姓熬煮私盐，越境到处贩卖。各地百姓贪图他们的盐价钱便宜，争相购买食用，解州的官盐因此而卖不出去，每年上缴的盐税银子只有七千五百两。请朝廷从今年开始增加太原的盐税银子五千两，不论和尚、道士、军士、匠人等各户、都要分摊缴纳盐税，民间通用私盐可以根据他们自己的方便。”这一年秋天十一月，裁撤领中书左右部，合并到中书省，越级任命阿合马为中书平章政事，进官阶为荣禄大夫。
至元三年（1266年）正月，设立制国用使司，阿合马又以平章政事的身份兼任制国用使司的事务。过些时候，制国用使司上奏：“把东京每年纳税所得的质地稀疏恶劣不能使用的布，就在当地用来买羊。真定、顺天的金银不合规格的，应当重新冶铸。别怯赤山生产石绒，把它织成布，用火不能烧着，请求派遣官员加以开采。”又上奏说：“国家的费用支出名目多数量大，今年从皇上回京以后，已经支出了纸币四十万锭，恐怕明年会不够开支，应当酌量节约使用。”十一月，制国用使司又上奏说：“桓州峪所开采的银矿，已经有十六万斤，每一百斤可以得到银三两、锡二十五斤。采矿所需要的支出，可以出售锡来支付。”忽必烈全都同意制国用使司的请求。
至元七年（1270年）正月，设立尚书省，裁撤制国用使司，又任命阿合马为平章尚书省事。阿合马的为人，智谋多而善于言辞，以功利和取得的效益自负，人们都称赞他有能力。忽必烈急于使国家富起来，就试着让阿合马办事，很有成绩。又看到阿合马和丞相线真、史天泽等争辩，阿合马屡次有理由使他人屈服，由此而对阿合马的才能表示惊奇，授于他政治大权，对他的话无不听从，却不知道他的专权任性越来越厉害了。
丞相安童容忍了很久，上奏忽必烈说：“臣下最近上奏说凡是尚书省、枢密院、御史台应当各按照通常的制度向皇上奏事，其中的大事要经过臣下等人议定再上奏，已经得到圣旨允准。现在尚书省所有的事情都直接上奏，似乎违背了臣下我以前向皇上的奏报。”忽必烈说：“你所说的话的确很对。难道阿合马由于朕对他很信任，敢这样办吗？他不和你商议是不对的，应当像你所说的那么办。”安童又上奏说：“阿合马所任用的部下各官，左丞许衡认为大多任用不当，但已经得到圣旨让他咨请中书省宣布，如果不给，恐怕将来会有别的话。应当试验他的任用的人是否有能力，时间一长就会自然明白。”忽必烈认为安童的话有道理。五月，尚书省上奏要求清查全国的户口，后来御史台认为现在到处在捕捉蝗虫，百姓劳苦，清查户口的事情应当稍稍缓办。于是就停止不办。
元朝开始设立尚书省的时候，有圣旨说：“凡是加以考核选举的大小官员，由吏部拟定他的资历，呈报尚书省，由尚书省咨送中书上奏。”到这时，阿合马提拔他自己的人，不经过吏部拟定，也不咨送中书省。丞相安童因此上奏，忽必烈命令去问阿合马。阿合马说：“事情不论大小，统统委任给臣下，所任用的人员，臣下应当自己挑选。”
安童因此请求：“从今以后只有严重刑事以及调任上路总管，才归臣下管理，其余的事情一并交给阿合马，以便事情职责分明。”忽必烈都同意了。至元八年三月，尚书省再次把清查核实户口的事情上奏请求分条规划下诏通告全国。这一年，上奏请求增加太原的盐税，以纸币一千锭为经常的数额，仍然让本路兼管。
至元九年（1272年），忽必烈把尚书省合并于中书省，又任命阿合马为中书平章政事。
至元十年（1273年），又任命他的儿子忽辛为大都路总管，兼大兴府尹。右丞相安童看到阿合马专权一天比一天厉害，想补救这个弊病，就上奏说大都路总管以下的官员大多不称职，请求派人代替他们。不久又上奏说阿合马、张惠，仗着宰相的权势会经商，以此一网打尽了天下的最大利益，严重的毒害百姓，使他们走投无路而没有地方可以申诉。阿合马说：“是谁编出了这些话，臣下等要和他在朝廷上辩论。”安童进奏说：“尚书省的左司都事周祥，中木谋取暴利，罪状十分清楚。”忽必烈说：“像这样的人，征收完毕以后应当公开罢免他。”后来枢密院上奏请求让忽辛同企枢密院事，忽必烈不答应，说：“他是个胡商，一般的事情还不懂得，又哪能让他承担机要事务的责任呢？”
至元十二年（1275年），伯颜领兵攻打宋朝，渡江以后，捷报一天天传来。忽必烈命令阿合马和姚枢、徒单公履、张文谦、陈汉归、杨诚等人，商讨在江南推行盐法、钞法和贸易药材的事情。阿合马上奏说：“姚枢说：‘江南地区的交会如果不能通行，一定会使普通百姓失去安身之地。’徒单公履说：‘伯颜已经张帖告示明白说明不兑换交会，现在急急忙忙推行，就是在百姓中失去信用。’张文谦说：‘是不是可行，应当向伯颜询问。’陈汉归和杨诚都说：‘把中统钞交换江南的交会，有什么困难的？’”忽必烈说：“姚枢和徒单公履，不懂得掌握时机。朕曾经把这件事问过陈岩，陈岩也以为宋朝的交会应当尽快更换。现在商讨已经决定，就按你的话办。”阿合马又上奏说：“北方的盐和药材，姚枢和徒单公履都说可以让百姓自由贩卖。臣等认为，这件事如果让普通百姓去干，恐怕会造成混乱不统一。准备在南京、卫辉等路统一征购药材，从蔡州运盐二十万斤，禁止各种人员私下互相贸易。”忽必烈说：“好！就这么办。”
阿合马又说：“近来由于征集财物以代价军用，减免在编百姓的征税，又裁撤转运司官，让各路总管兼管按额征税，以至于国家的用度不足。臣下以为不如查验户口数字的多少，远处的归到近处，设立都转运使，估计情况增加过去的税额，选择清廉有能力的官员分别办理这件事。应该由公家和私人冶炼铸造铁器，而由官方设局专卖；仍然禁止各种人员不得私造铜器。如果这样，就能使百姓的财力不会穷尽，而国家的用度也能充足了。”于是就上奏设立各路转运使，任命亦必烈金、札马刺了、张暠、富珪、蔡德润、纥石烈亨、阿里和者、完颜迪、姜毅、阿老瓦丁、倒刺沙等人为转运使。有一个叫亦都马丁的人，由于亏欠公家的银钱得罪罢官，死了以后，亏欠的还有很多没有还清。中书省上奏商讨处理办法，忽必烈说：“这是有关钱财粮食的事，去和阿合马商讨。”
正元十五年（1278年）正月，忽必烈因为西京发生饥荒，发出粮食一万石加以赈济，又告诉阿合马应当广为贮藏积蓄，以准备缺乏。阿合马上奏说：“从今以后，御史台如果没有禀告尚书省，不能随便召见管理仓库的官吏，也不能随便查究银钱谷物的数字。以及集议中书不到的，就要判罪。”他阻挠压抑监察部门就是这样。
同年四月，中书左丞崔斌上奏说：“起先由于江南官员人数过多，担任的人也多不能称职，就命令阿里等人区别淘汰他们。现在已经明显地有了证据，却蒙蔽不向朝廷上奏，这是欺君罔上。杭州地方广大，所负的责任不轻，阿合马为私自的感情所迷惑，竟把他没有出息的儿子抹速忽充当达鲁花赤，掌握虎符，这难道是衡量才干而授以责任之道？”又说：“阿合马起先自己表示请求免去他子弟的官职，可现在身为平章政事，而他的儿子以至侄子有的担任行省参政，有的担任礼部尚书，将作院达鲁花赤，领会同馆，一门之中都处在重要地位上，自己违背过去说的话，于公道有亏。”忽必烈下旨全都加以罢免，但始终不把这当成阿合马的罪过。忽必烈曾经对淮西节度使昂吉儿说：“做宰相的人，要明白天道，察知地理，竭尽人事，兼有这三方面的人，这才是称职。阿里海牙、麦术丁等人也不能担任宰相；回回人中间，阿合马的才能足以胜任宰相。”他为皇帝所称道就是这样。
至元十六年（1279年）四月，中书省上奏请求设立江西榷茶运司以及各路的转运盐运使、宣课提举司。没有多久，任命忽辛为中书右丞。
至元十七年（1280年），中书省上奏说：“阿塔海、阿里说，现在设立宣课提举司，官吏数字达到五百人，左丞陈岩、范文虎等说他们搅扰百姓而且侵吞偷盗官府钱财。请求加以罢免。”
阿合马上奏说：“过去有圣旨把江南粮食数字登记造册，屡屡发文索取，但不把实情报告上来，臣下于是就同枢密院、御史台和朝廷大臣各位元老一起商讨，认为设立运司，官员多而俸禄重，应当在各路设立提举司，都省、行省各委派一个人担任这一事务。现在行省还没有委派人，就请求裁撤，又把过错归于臣下等人。然而臣下所委派的人，有的到任才两个月，如果计算他们侵吞了共有一千一百锭，以他们管理的四年时间比较起来，又应该是多少呢？现在设立提举司，不到三月又加以裁撤，难道不是害怕他们非法的弊病败露，所以抢先自己奏请以消灭痕迹吗？应当下令让御史合派遣能干的人一起去，凡是有违法的行为，一条条据实奏报。”忽必烈说：“阿合马所说是对的，命令御史台选择人员前去查办。如果自己能够证明自己是清白的，这样才能责备别人。”阿合马曾经上奏应当设立大宗正府。忽必烈说：“这件事难道是你们这些人所应当说的，这是朕的事情。然而宗正这个名称，朕还是没有听说过，你的话很对，要想一想。”
阿合马要清理计算江淮行省平章阿里伯、右丞帖木儿设立行省以来所有的钱粮数字，上奏派遣不鲁合答几、刘思愈等前去清查，查到了他们擅自调换朝廷任命的官员八百人，擅自分设左右司官以及铸造铜印等等事情，上奏。忽必烈说：“阿里伯等人用什么理由来解释？”阿合马说：“他说行省过去就曾要铸造官印了。臣以为过去因为江南没有平定，所以能根据情况自己处置，现在和过去情况已经不同。他们又擅自支付粮食四十七万石，上奏裁撤宣课提举司。等到中书省派遣官员清理计算，征得纸币一万二千锭挂零。”阿里伯、燕帖木儿两个人最后竟因此被杀。
当时阿合马在位时间很久，更加肆意贪婪骄横，拉扯提拔奸党郝祯、耿仁，一下子迁升到和自己同在中书省任职，阴谋勾结，专门从事蒙蔽皇帝，积欠的赋税不加免除，百姓们逃亡迁移，京兆等路每年收入赋税达到五万四千锭，还是认为不是实际情况。百姓有近郊的良田，就抢夺据为己有。暗地里接受贿赂，表面上做得执法严明，朝中百官互相用眼神表示不满，但没有人敢于明白议论。有一个值宿禁卫的秦长卿，激昂慷慨地上书揭发他的种种罪恶，竟然被阿合马所谋害，在监狱里把他害死。
至元十九年（1282年）三月，忽必烈在上都，皇太子真金随从。有个益都千户叫王著的人，一向疾恶如仇，由于人心对阿合马愤怒怨恨，就秘密铸造了一把大铜锤，自己发誓愿意击碎阿合马的脑袋。当时有一个妖僧高和尚，自称有秘密法术在军中行使，但毫无效果而逃走，假装身死，杀了一名徒弟，把尸首欺骗大众，自己又逃走，使人也不了解事情的真相。王著就和他一起谋划，在戊寅那一天假称皇太子回京师参加佛事，集结了八十多人，夜里进入京城。早晨派遣两个僧人到中书省去，让中书省购买供奉神佛的用品。中书省的人员怀疑，对他们加以讯问，他们不肯伏罪。等到中午，王著又派遣崔总管假传皇太子的旨意，让枢密副使张易发兵若干人，在这天夜里会集在东宫前面，张易没有察觉其中有假，就命令指挥使颜义领兵一起前去。王著自己骑马去见阿合马，诈称太子将要来到，命令中书省的官员全部都在东宫前等候。阿合马派遣右司郎中脱欢察儿等几个人骑马出关，往北走了十几里，碰上了王著的一伙人。伪装太子的人责备他们无礼，把他们全都杀了，夺取了他们的马匹，往南进入建德门。夜里二更，没有人敢问什么，到了东门前面，他们一伙都下了马，惟独伪装太子的人坐在马上指挥，呼喊中书省长官来到马前，责骂了阿合马几句话，王著就把阿合马牵去，用袖子里藏着的铜锤砸碎他的脑袋，阿合马立刻毙命。接着喊中书左丞郝祯来到，杀了他；囚禁了右丞张惠。枢密院、御史台和留守司的官员都远远看着，没有人能推测究竟是什么缘故。尚书张九思在宫中大声喊叫，认为这是个骗局；留守司的达鲁花赤传敦就手持木棒冲向前面，把骑在马上的人击倒坠地。弓箭乱发，这伙人奔逃溃散，大多被逮住。高和尚逃走，王著挺身而出要求把自己囚禁。御史中丞也先帖木儿飞马上奏忽必烈。忽必烈当时正驻在察罕脑儿，听到以后大为震怒，当天就起驾到上都。命令枢密副使孛罗、司徒和礼霍弥、参政阿里等按驿站飞驰到大都，讨伐作乱的人。庚辰日，在高梁河抓住了高和尚。辛已日，孛罗等人到达大都。壬午日，把王著、高和尚在市上诛杀，剁成肉酱，同时又杀了张易。王著临刑前大喊说：“王著为天下除害，现在死了，将来一定有人为我写下这件事的！”
阿合马死后，忽必烈还不详细了解他的种种邪恶，命令中书省不要追查他的妻儿。等到询问孛罗，就全部知道了阿合马的罪恶，这才大怒说：“王著把他杀了，的确是对的。”于是下令掘墓开棺，在通玄门外斩戮尸体，听任狗去吃他的肉。朝廷百官和士人百姓，聚在一起观看拍手称快。阿合马的子侄都被诛杀，把他的家属和财产没收入官。他的小妾中有一个叫引住的，查抄她的物品，在柜子里得到两张熟的人皮，两只耳朵都保存完好，有一个阉人专门掌握这个柜子的钥匙，讯问他们也没有人知道究竟是什么人的人皮，只说：“诅咒的时候，把神座放在这上边，应验很快。”又用两幅绢，画上穿戴盔甲的骑兵好几层，包围守在一座有帷幕的殿前，兵士都拉开了弓弦挺着刃向里边，好像在向里进攻那样。画图画的人姓陈。又有一个叫曹震圭的，曾经推算过阿合马的生辰八字；有一个叫王台判的，胡乱引用图谶，所说的都涉及谋反的事。事情上奏，忽必烈下令剥这四个人的皮当众宣示。
1、设置诸路转运司，加强税收管理
税收是国家财政的重要支柱，盐税又是财政的重要税源，因此，禁私盐和增加盐税是阿合马理财的一个主要方面。中统四年（1263年），阿合马推行食盐国家专卖，禁止食盐走私，并增设巡逻队。实际上，私盐可能比官盐价格便宜，但真正获得暴利的是走私商，禁止食盐走私，就是惩治与国争利之徒。为了扩大税源，阿合马还把过去豁免赋税的僧道军匠等作为征税对象，从而增加了国家的财政收入。打击“权势之家”偷税漏税行为是阿合马理财的另一个有力措施。元代很多蒙古贵族与大商巨富一起从事商贸，但他们依仗权势，经商拒不交税，这是公然的违法行为。阿合马要理财，必然要和他们作斗争，也就触犯了他们的利益，自然引起了他们的反对。另外，至元七年（1270年），阿合马为规范纳税制度，制定了30分取1的税制，使纳税有章可循，一定程度上，防止了贪官污吏的随心所欲，保障了元代商业的正常发展。
2、大兴铁冶，官营牟利
阿合马比较重视矿冶生产，中统四年（1263年），阿合马就在河南钧、徐等州兴办铁冶，颇有成效。他又用输出的铁铸造了20万件农器，与农户交换粮食4万石。至元三年（1266年），阿合马还建议采冶石绒（石棉），扩大采冶范围，并成立专门管理机构，负责各地矿产采冶事宜。他的这些举措，客观上对促进农业及矿业生产的发展是有利的。
3、推行“经理”制度。“
经理”也叫“钩考”，是一种财政审计手段。由朝廷派员到各地清算钱谷等项，以防止豪强隐瞒和官吏贪侵。如地方上有把熟田冒充为荒地以逃避赋税的，有因避免差徭而隐报户口的，也有富民买贫民田而仍旧由贫民交税的，以致造成“岁入不增，小民告病”。至元七年（1270年），阿合马理财时期，尚书省的一项任务，就是调查全国户口，颁布条例，目的是为了杜绝欺隐，增加赋税。由于国家财政赤字巨大，入不敷出。为了增加财政收入，满足忽必烈穷兵黩武的需要，钩考钱谷被作为一种弥补财政亏空、搜刮财富的手段频繁进行。
4、实行官俸制度。
忽必烈初期，朝廷的各级官吏没有俸禄，这等于公开地让他们去勒索百姓，贪污中饱。这严重影响了元代正常的统治秩序，是一个亟待解决的重大问题。至元元年（1263年），阿合马曾订立条例，要减并州县和规定官吏员数，分别品级官职以给俸禄和颁发公田，并且要计算月日以考核优劣。但并没有施行起来。至元三年（1266年），阿合马任中书平章兼任制国用使的时候，正式规定了京、府、州、县、司官吏的俸禄和职田。至元七年（1270年）又规定了军官的俸禄。之后，虽然曾有暂时停俸禄和减官俸的事，但是官俸制度，作为一项重要制度从此确定了下来。勒索百姓，贪污钱财不再是合法的行为了。如至元四年（1267年），大名路达鲁花赤爱鲁，总管张弘范等盗用官钱，就受到罢官的处分。
5、发行纸币。
元代钞法是世界上最早的纯纸币流通制度，在世界币制史上具有特殊的地位。至元元年（1263年），阿合马在各路设平准库，钞一万二千锭，作为钞本。并且买卖金银，以维持物价平衡和保证纸币的信用。初期钞法施行十分严密，并且盐、茶等税收都用纸钞，保证了纸钞雄厚的物质基础。然而，由于连年用兵、费用浩繁，纸钞不断增发，从至元十七年（1280年）以后，开始通货膨胀，纸币贬值，物价飞涨。至元二十四年（1287年），忽必烈不得不召开中书省臣、集贤大学士会议，讨论钞法问题。但是，朝廷财政用度巨大，不能量入为出，因而这一根本性问题没有解决。
传统史家对阿合马之评价都相当负面，如《元史》就把阿合马收录于“奸臣传”里面，有“益肆贪横”、“内通货贿，外示刑威”这些话。然随著研究深入，后世对阿合马之评价也不再极端，盖因阿合马在任内主要不过是改革税制，整顿财政。而被指贪污也不过是当时正值元初，蒙古人并未受汉人信服，以致只要出任宰相的是色目人，不管证据，都会被视为贪横暴虐。应注意的是，同时期另一位大臣桑哥也是因掌理财政，而遭遇到与阿合马一样的悲剧。《马可波罗游记》中也有详细记载这事，并指出事件是民族、宗教问题引起的。
忽必烈：“夫宰相者，明天道，察地理，尽人事，兼此三者，乃为称职。阿里海牙、麦术丁等，亦未可为相，回回人中，阿合马才任宰相。”
马亨：“交钞可以权万货者，法使然也。法者，主上之柄，今使一贾擅之，废法从私，将何以令天下？”
秦长卿：“臣愚赣，能识阿合马，其为政擅生杀人，人畏惮之，固莫敢言，然怨毒亦已甚矣。观其禁绝异议，杜塞忠言，其情似秦赵高；私蓄逾公家赀，觊觎非望，其事似汉董卓。《春秋》人臣无将，请及其未发，诛之为便。”
宋濂：“阿合马为人多智巧言，以功利成效自负，众咸称其能。”
柯劭忞：“司马迁以利为害之源，然懋迁有无，肇于有虞，管仲、范蠡用货殖伯齐、越二国，无他，利天下则为利，反是则为害也。世祖才阿合马，擢为宰相。阿合马死，卢世荣继之。世荣死，桑哥继之。三凶传屰，病国厉民，厕酷吏以重位，陷正人以刑纲，视汉、唐聚敛之臣，其毒尤甚焉。呜乎！蒙古有中原五六十年，政无纪纲，遗黎殆尽。世祖践阼，思大有为于三下，黔首喁喁，正延颈归命之时，乃用贪狠匹夫，钻膏剔髓，以剿民命，迨穷奸稔恶，始婴显戮，而苍生之祸已烈矣。司马迁之言，岂不信欤！”
