幼时在家乡喜欢听戏曲二人转、二人台、山西梆子、河北梆子、京韵大鼓、丝弦及民歌等,并萌生“长大我也去演唱”的想法。
1936年,随家迁至山西省阳泉市,并开始读私塾。
1944年,高小毕业后去石家庄当铁路工人。
1949年,加入石家庄市文工团、河北艺术学校、建筑文工团学习和工作。
1953年,调入中央人民政府政务院建筑工程部文工团,任乐队副队长。此后与吕远相识并开始了四十三年的合作生涯。
1956年9月,入党;同年,参加“全国首届音乐周”。
1957年,随建工部文工团赴全国各地为建筑工人演出,其间还演唱过《连斯基的咏叹调》、《采珠人》等西洋歌剧选曲。此后又演唱了吕远创作的《克拉玛依之歌》、《走上这高高的兴安岭》等歌曲,受到周恩来、陈毅等国家领导人的赞扬。他演唱的《哪儿来一个老货郎》、《羊倌的歌》、《再见吧,第八个故乡》、《在也门的晚霞中》也深受群众喜爱。
1963年,与吕远一起调入海政歌舞团,并担任合唱队长,演唱了《水兵最爱什么花》,以及为电影《海岛南泥湾》、《决裂》、《南海风云》等配唱。
1964年,在歌舞剧《水兵的光荣》中担任主角,并参加独唱演出;同年,随艺术团出访朝鲜,回国后参演大型舞蹈史诗《东方红》。
改革开放后,吕文科老师多次在京津等地的公演中担任独唱,并在第四届全军文艺汇演中获独唱优秀奖,担任海政歌舞剧团歌剧队队长。他又演唱了吕远作曲的《八角楼的灯光》、《西沙,我可爱的家乡》、《我愿手捧一束红梅》、《木棉花开火样红》、《渔歌》、《克拉玛依新歌》、《长城组歌-八达岭上望八方》、《长江组歌-旧时长江船家谣》。
他还为电影电视剧《北斗》、《玉色蝴蝶》、《地质之鹰》、《航标兵之歌》等配唱。他演唱的《走上这高高的兴安岭》、《克拉玛依之歌》、《将军还乡白洋淀》、《毛主席来到军舰上》(《水兵见到/想念毛主席》)、《羊倌的歌》、《水兵最爱什么花》、《劈波斩浪永向前》、《航标兵之歌》、《飞翔吧,海燕》等歌曲在全国广为流传。
1997年11月16日晚19时,在北京海军总医院去世。