留从效于唐昭宗天祐三年（906年）生于泉州永春县留湾村。其家原为泉州桃林县（今福建省泉州市永春县城关留安村）人，后迁居永春县。父亲留璋，在留从效的幼年时便去世，他能于孤贫中自立，以孝顺母亲、尊敬兄长名闻乡里，略通书史，喜读兵法。少年时，他成为泉州的衙兵。后因随从征讨临汀（今福建长汀）的军功，被升迁为闽国的泉州散员指挥使。
天德二年（944年），闽帝王延曦被部将朱文进弑杀。朱文进占据福州，自立为闽主，与前一年二月称帝于建州（今福建建瓯）的王延羲之弟、富沙王王延政相抗。朱文进任命党羽黄绍颇为泉州刺史，接管泉州。留从效对裨校王忠顺、董思安和亲信苏光海暗中筹划对抗朱氏的计划，一天，留从效对同僚说：“朱文进屠灭王氏，派心腹分据诸州。我们这些人世代接受王氏的恩遇，而交臂事贼，一旦富沙王（王延政）攻克福州，我们死有余愧啊！”众人均以为是。十一月，留从效密约军中亲信的壮士到家中饮宴，一面假称自己收到富沙王令他除掉黄绍颇的密旨，一面利诱众人共图富贵，于是募得副兵马使陈洪进等五十二人，连夜越城墙而入，擒杀黄绍颇。随后，请王延政之侄王继勋出面主持军府事务。留从效与王忠顺、董思安三人自署为平贼统军使，派陈洪进送黄绍颇首级至建州，献给王延政。王延政大喜，即以王继勋为侍中、泉州刺史，留从效、王忠顺、董思安均任都指挥使。
朱文进获悉黄绍颇被杀，立即募兵两万，命统军使林守谅、内客省使李廷锷等往攻泉州。留从效得到王延政所派的两万援军，开城出战，大败福州兵，斩杀林守谅，生擒李廷锷。王延政趁势派统军使吴成义领战舰千艘反攻福州，围困朱文进。
正在王延政攻福州时，福州内部发生了变故：另一将领连重遇杀朱文进归降王延政，而后又被裨将林仁翰所杀，林仁翰打算迎王廷政移都福州。南唐中主李璟趁闽中大乱，于保大四年（946年）出兵进取建州，至八月，王延政投降。
保大五年（947年），王继勋以平辈身份致书修好于占据福州的李弘义（即李仁达），李弘义以泉州一向隶属威武军，不满王继勋抗礼，派其弟李弘通带兵万人攻泉州。留从效以王继勋平日赏罚不当、士卒不肯用命为由，废黜王继勋，自领军府事，称泉、漳二州留后。然后领兵大破李弘通，并上表向李璟报告。李璟把王继勋召往金陵，任命留从效为泉州刺史，并派兵戍守，进行监视。此后，漳州戍将林赞尧叛乱，留从效领兵将其驱逐，趁机命泉州裨将董思安权知漳州事。李璟承认留从效对漳州的控制，改漳州为南州，以董思安为刺史。史称“闽中五州之分。自此始也”。
南唐军在闽不得民心，李弘义于是归附吴越，南唐派兵围攻，留从效也应李璟要求出兵协助，但因诸将争权，互不相让，且留从效也不愿福州速平，最终遭遇大败，“死者二万余人，委弃军资器械数十万”。留从效回到泉州后，趁南唐受挫之机，以连年战争、供给不足为由，劝说南唐驻守泉州的将领撤军。翌日，在城郊外置酒，为其践行。屯将不得已，只能撤走。
保大七年（949年）十二月，留从效之兄、南州副使留从愿用毒酒杀害董思安而代之，李璟即升泉州为清源军，任命留从效为清源军节度使、泉南等州观察使。自此之后，留从效兼漳、泉之地，拥兵自重，不听南唐调遣，李璟也无力征讨。
后来，留从效的官职进升为同中书门下平章事兼侍中、中书令，爵位也自鄂国公进封为晋江王。
留从效起自行伍，知晓百姓疾苦。割据泉、漳后，致力于勤俭养民、大兴文教事业，又开发泉州，整建城港，招徕海外商贾，对闽南地区的发展影响颇大。同时灵活周旋于中原大国（后周、北宋）及南唐之间，使泉、漳二州得以保持相对安宁。
建隆三年（962年），宋太祖为嘉奖留从效积极进贡的行为，加授他为开府仪同三司、检校太师，赐号戴恩奉国保庆功臣。但自五月起，留从效便因背疽发作，而连月重病卧床。至八月八日（此据《留氏家谱·卷三·宋太师鄂国公传》，另有三月、七月之说），留从效病逝，享年五十七岁。南唐后主李煜诏赠他为太尉、灵州大都督。
留从效出身寒微，知人疾苦。治理泉州十七年，以身作则，专以勤俭养民为务。
保大五年（946年），留从效在泉州扩建新城，城高1丈8尺，周长20里，为王潮所创子城的7倍。
留从效在主政期间，积极发展农业生产，令士兵屯田，召游民垦荒，围海造地，兴修水利，泉州因此常“仓满岁丰”。
留从效十分重视海外交通贸易，令人在泉州城内“开通衢，构云屋（货栈）”，以“招徕海上蛮夷商贾”；同时蠲除各种苛捐杂税，允许自由贸易。当时，从泉州运往东南亚、阿拉伯和东非等地的货物有陶瓷、铜铁器等手工业品，从海外运回的有象牙、犀角、玳瑁、明珠、浮香、樟脑等货物。泉州城内货物充盈，商业繁盛，号称“云屋万家，楼雉数里”。宋代泉州成为对外贸易巨港，留从效实为开创者。
对外贸易的兴旺，使泉州的手工业，特别是用于对外贸易的陶瓷、冶炼业和丝织业等，得到较大发展。
除对泉州的建设外，留从效竭力向中原王朝直接进贡，也有经济上的意图。他试图在汴梁建置官邸，取得位于北周都城的一个商业立足点。后来，宋太祖允诺在青州荷恩禅院建邸，“充卿本道回图邸务”。如此一来，便能开辟一条北方航线，将从海外进口的奢侈品销往中原，使闽南的商业发展获得最大的经济利益。
重视教育
留从效很重视教育，每年秋季都在泉州举行考试，选取明经、进士，称之为“秋堂”。据记载，五代时，泉州有进士4人，漳州有2人。延至宋代，泉州中进士者达862人（特奏名480人除外）。五代至两宋，泉州先后有4位状元，8位宰辅。故而，泉州也有“海滨邹鲁”的称号。
民风民俗
留从效在任内，对云屋大加发展，塑造了泉州街市建筑的风格。而泉州的茶叶成为外销的主要产品，也说明闽南地区在五代时期逐渐形成了饮茶风俗。
留从效对内割据，对外则奉行事大理念，名义上接受南唐朝廷的册封，是南唐下辖的藩镇。他积极修好与南唐中央的关系，曾在淮南之战前劝说南唐元宗主动出击，但见南唐大败于新生的后周政权、尽割江北之地后，转而于显德五年（958年）派使者暗中与后周方面接触，表示归附诚意。显德六年（959年），又派别驾黄禹锡间道奉表，以獬豸通犀带、龙脑香数十斤为贡，后周世宗赐诏嘉纳。留从效还要求在汴梁建邸，世宗因其一向依附南唐，如果建邸则能与南唐分庭抗礼，故而没有同意。
尽管如此，留从效仍然畏惧南唐的威胁。显德六年（959年），南唐开始筹建南都南昌府（洪州）。留从效担忧此举有前来讨伐之意，于是派其子前往金陵进贡，留为质子。同时于建隆元年至建隆三年（960年－962年）间，三次派使者向新建立的北宋进贡称藩。宋太祖遣使厚赐留从效，并加慰勉。
由于留从效灵活周旋于中原王朝及南唐之间，使泉、漳二州得以保持相对安宁。
徐铉：某山岳储精，星芒禀异。挺全才而应用，激大义以致身。而自际会先朝，奋扬奇策，静二方之多难，越万里以来庭。故得倚作藩宣，誓之带砺。而能恩威洽著，纪律修明。戎政有经，理声日远。黎献有不欺之颂，朝廷无南顾之忧。茂绩忠规，古难其比。粤予眇质，嗣德弗明。赖我友邦，越乃贤帅。推诚翼戴，克荷景灵。（《泉州节度使留从效检校太师制》）
柴荣：卿自保全土宇。惠养黎元，立功早达於机权，临事固无於凝滞，乃能望中原而内附，陈方略以输诚，永言恭勤，良多嘉奖。（《赐伪泉州节度使留从效诏》）
胡三省：留从效起于泉州，斩黄绍颇，破李弘通，唐人惮其威名。（《资治通鉴》注）
脱脱：幼孤，事母兄以孝悌闻。颇知书，好兵法……从效出自寒微，知人疾苦，在郡专以勤俭养民为务……民甚爱之，部内安治。（《宋史》）
吴任臣：朱文进诛屠王氏，少长无遗，已晏然据神器矣。而从效以区区牙校，削平贼党，奄有漳泉。比至（陈）洪进纳土，再
