李峤少有才名，十五岁精通《五经》，二十岁考中进士。他初授安定县尉，因在制举考试中以甲等擢第，调任长安县尉，在畿尉中与骆宾王、刘光业齐名，皆以文章著称。后来，李峤又调任三原县尉。
调露元年（679年），唐高宗发兵征讨岭南邕州、岩州一带（在今广西境内）的僚族叛乱。李峤时任监察御史，奉命充任监军，随军南征，亲入獠洞，宣谕朝旨，成功招降叛军。
天授元年（690年），武则天称帝，建立武周，擢升李峤为给事中。
长寿元年（692年），狄仁杰、李嗣真、裴宣礼等大臣被酷吏来俊臣诬陷谋反，下狱论罪。武则天遂命李峤与大理少卿张德裕、侍御史刘宪一同复核此案。李峤上疏皇帝，为狄仁杰等人辨冤，因而忤旨，被外放为润州司马。
长寿二年（693年），李峤被召回朝廷，担任凤阁舍人，负责起草朝廷的制诰文书。
神功元年（697年），李峤代理天官侍郎，后又进拜麟台少监（即秘书少监）。
圣历元年（698年），李峤升任宰相，加授同凤阁鸾台平章事。当时，武则天命男宠张易之、张昌宗兄弟主编《三教珠英》，并援引一大批当世知名的“文学之士”参与修撰。李峤与阎朝隐，徐彦伯、张说、宋之问、崔湜、富嘉谟都在其中。
久视元年（700年），李峤改任鸾台侍郎、同平章事，兼修国史。是年七月，天官侍郎张锡拜相。李峤是张锡的外甥，不宜与舅父同居相位，因而被罢为成均祭酒（即国子祭酒）。后来，李峤又代理文昌左丞，充任东都留守。
长安三年（703年），李峤再次拜相，担任文昌左丞、同平章事，不久又升任纳言（即侍中）。当时，张易之兄弟大肆招揽文士。李峤与司礼少卿崔融、凤阁侍郎苏味道、麟台少监王绍宗皆以文才折节，依附于二张门下。
长安四年（704年），李峤改任内史（即中书令）。他因政务繁重，数次上疏请辞。武则天遂再次任命他为成均祭酒、同平章事。是年十一月，李峤被免去宰相之职，担任地官尚书。
神龙元年（705年），唐中宗复辟，诛杀张易之兄弟。李峤被贬为豫州刺史，未及起程又贬通州刺史，但在几个月后便被召回朝中，授为吏部侍郎，封赞皇县男。不久，李峤又升任尚书，进封县公。他奏请大量增置员外官（定员以外的官员，不属正式编制），意欲以私惠获取时望，希望能借此重居相位，结果使得官僚泛滥、国库减耗，铨选制度陷入混乱。
神龙二年（706年），李峤以吏部尚书之职拜相，加授同中书门下三品。当时，驸马都尉王同皎谋诛佞臣武三思，结果事泄以谋反罪下狱。李峤参与审理，却畏惧武三思威权而无所作为，致使王同皎冤死，天下称怨。是年七月，李峤进位中书令。他因铨选混乱，上疏引咎辞职，并奏陈十余条时政得失。唐中宗认为李峤能自陈失政，下诏抚慰，让他官复原职。
神龙三年（707年），太子李重俊发动兵变，诛杀武三思父子，又攻打宫城，最终兵败被杀，史称景龙政变。当时，唐中宗与韦皇后在兵变时登玄武门避乱，李峤则与杨再思、苏瑰、宗楚客、纪处讷拥兵二千人，屯于太极殿前，闭门自守。后来，宗楚客指使给事中冉祖雍，奏称前宰相魏元忠犯有大逆之罪。李峤也随声附和，结果遭到唐中宗的训斥。
景龙二年（708年），李峤兼任修文馆大学士、监修国史，进爵赵国公。
景龙三年（709年），李峤被免去中书令之职，改任特进（散阶）、兵部尚书、同中书门下三品。当时，宗楚客与纪处讷潜怀奸计，广结朋党。李峤身为宰相，却以唯诺自保，对朝政无所匡正。
景龙四年（710年），唐中宗暴崩。韦皇后秘不发丧，连夜召宰相李峤、苏瑰、宗楚客等十九人入禁中，商议后事。当时，太平公主与上官昭容起草遗诏，命温王李重茂即位，由韦皇后临朝理政，并让相王李旦辅政。但宗楚客等韦氏亲信，却以“嫂叔不通问”为由，建议削去李旦的辅政之责。诸宰相中只有苏瑰表示反对，李峤等人皆一言未发。最终，李旦被削去辅政之责，韦氏以皇太后临朝摄政。李峤还密奏韦后，认为不宜将相王李旦之子李成器、李隆基等人留在京城。
是年六月，李隆基发动唐隆政变，诛杀韦皇后及其亲信党羽，拥立李旦为皇帝，史称唐睿宗。七月，李峤被贬为怀州刺史，不久以年老致仕。
先天元年（712年），唐睿宗退为太上皇。太子李隆基即位，史称唐玄宗。他在宫中发现了李峤当初的奏表，将其宣示于朝臣。中书令张说认为“桀犬吠尧，各为其主”，不应追究李峤的罪责。唐玄宗遂让李峤随其子虔州刺史李畅到虔州赴任。
开元二年（714年），李峤又遭到监察御史郭震的弹劾，被追究韦后之乱时“身为宰相，不能匡正”的罪责。他虽已致仕，仍被贬为滁州别驾。后来，李峤又被改任为庐州别驾，不久病逝于任上，终年七十岁。
李峤著有文集五十卷、《军谋前鉴》十卷。其文集已散佚，明代时仅辑录三卷。
《全唐诗》辑录其诗五卷（第57卷－第61卷），共有诗作209首，其中有《杂咏诗》120首。
《全唐文》辑录其文八卷（第242卷－第249卷），共有制诰、表文、奏疏、碑志等各类文章158篇。
平定岭南僚乱：李峤在高宗年间曾随军征讨岭南僚乱，并入僚洞宣抚，成功招降叛军。
抑制酷吏政治：李峤不惧酷吏淫威，上疏为含冤入狱的狄仁杰等大臣辩冤。他在武则天晚年时，又与桓彦范先后上奏皇帝，建议为在酷吏政治中含冤而死的大臣洗冤昭雪，最终得到皇帝的批准。
李峤是武后、中宗时期的文坛领袖，与苏味道并称苏李，又与杜审言、崔融、苏味道并称文章四友（崔李苏杜），晚年更被尊为文章宿老，深得时人推崇。他的文章善于隶事用典，讲求骈偶，辞采华美，堪称大手笔。开元名相张说赞其文“如良金美玉”，《旧唐书》则称其文学为“一代之雄”。
李峤曾作《杂咏诗》一百二十首，分为乾象、坤仪、居处、文物、武器、音乐、玉帛、服玩、芳草、嘉树、灵禽、祥兽十二大类，各以一字为题，又称《单题诗》，一诗咏一物，如《日》、《月》等，句句用典，是诗歌的类书形式。这组《杂咏诗》在天宝六载（747年）已有张庭芳为之作注，后流传至日本，在平安时代成为贵族及士族阶层重要的幼学读物。
后世论者对李峤的诗作多持否定态度。清代王夫之在《姜斋诗话》中谈到咏物诗的发展中认为：“李峤称大手笔，咏物尤其属意之作，裁剪整齐，而生意索然，亦匠笔耳。至盛唐以后，始有即物达情之作。”乔象钟在《唐代文学史》中称李峤的咏物诗：“乍看题目，令人眼花缭乱；实际上却充满陈腐的堆砌雕琢和连篇累牍的隶事用典，毫无生气，使人腻而生厌。”今人多认为李峤的咏物诗不过是小弄巧笔，并没有太大的意义。
李峤的诗作以五律数量最多，成就最高。他改造齐梁声律理论中的不合理因素，除讲求一联中平仄相“对”外，开始注意上下联之间相“粘”的规则，使得一联之间的叶韵发展为全篇的谐畅。无论咏物、应制、写景、抒怀，皆“风骨高华，句法宏赡，音节雄亮，比偶精严”。胡应麟把李峤的《侍宴甘露殿》与杜审言《早春游望》、陈子昂《晚次乐乡》、沈佺期《宿七盘》、宋之问《扈从登封》等并列为初唐五言律诗之最佳者。
李峤的诗作在中唐时期随遣唐使东渡至日本，《日本国见在书目》著录《李峤百廿咏》一卷。今存最早钞本为日本嵯峨天皇亲笔所钞本，凡二十一首，在日本已被定为国宝。镰仓时代初期学者源光行《百咏和歌》，即据《李峤百廿咏》翻作。《杂咏诗》及张注在日本影响极大。江户时期学者林述斋《佚存丛书》本附跋说：“皇朝中时，甚喜此诗，家传户诵，至使童蒙受句读者亦必熟背焉。以故诸家传本，不一而足。”
狄仁杰：①文学缊藉，则苏味道、李峤固其选矣。②若求文章资历，今之宰臣李峤、苏味道亦足为文吏矣。
韦承庆：赵郡李峤，时秀朝英，文宗学府。
张鷟：李公有三戾，性好荣迁，憎人升进；性好文章，憎文才笔；性好贪浊，憎人受赂。亦如古者有女君，性嗜肥鲜，禁人食肉，性爱绮罗，断人衣锦；性好淫纵，憎人畜声色。此亦李公之徒也。
徐坚：李赵公、崔文公之笔术，擅价一时。
