史料记载宫观始建于明。因为清时观内一道人为清廷一位娘娘治好病后，得皇家敕封，而更名为宫。吕祖宫传说系白云观隶属的一座火神庙，清咸丰年间，清代道教大居士叶合仁出资将火神庙重修改建为吕祖宫，嗣传道教全真龙门派法脉。
北京吕祖宫坐落于北京市最为繁华最负盛名的金融街，是北京地区重要的道教宫观，距今已有近一百五十年的岁月，风雨仓桑，朝代更迭，这座吕祖宫也历经兴衰，至今保存基本完好。在现代建筑的映衬下，这座幽雅的中式建筑十分引人注目，散发着中国传统文化的浓浓韵味。
主要建筑有钟楼、鼓楼、前殿3间、中殿3间、后殿5间及东西配殿各5间。现为北京市重点保护文物。
源远流长原是全真派分支
吕祖宫供奉的是道教纯阳祖师吕喦，就是民间传说中“八仙”之一的吕洞宾。吕洞宾本来是唐末书生，道家掌故传说，吕洞宾参加进士考试落第，路遇锺离权给他一个枕头，吕洞宾枕着睡着后，梦见中了进士在朝廷为官31年，身居显要、权位煊赫。后来被贬谪外放，路上风雪交加、人马劳顿，吕洞宾正在叹息荣枯无常，忽然梦就醒了，这时睡觉前煮的黄粱米饭还没有熟。吕洞宾因此看破世情，追随锺离权出家修行得道。
这个情节最早出自唐朝沈既济的《枕中记》，就是成语黄粱一梦的出处，逐渐演化成了道家的传说。元代散曲大家马致远与人合作的元杂剧，写的也是吕洞宾做梦悟道的故事。随着朝代演化更替，吕洞宾成为民间传说中最有人气的人物之一。
吕祖宫最早是建于明代的“火神庙”，清朝咸丰年间，道教居士叶合仁出资将火神庙重修为眼下的吕祖宫。据说当年这里香火鼎盛，尤其传说中吕洞宾诞辰的农历四月十四，更是十方信徒汇聚之地。如今是北京市道教协会仅有的两座道观之一。
吕祖宫是清代建筑，由于结构保存完好，是西城区文物保护单位。吕祖宫里依然供奉着吕洞宾，赵公明和一代药王孙思邈。
吕祖宫在道教中属于全真龙门派，就是拜金庸大侠所赐而赫赫有名的那个全真派。全真派有没有武功不好说，但重阳真人王重阳、长春真人丘处机都是确有其人。王重阳是全真派的开山祖师，而龙门这一宗就是丘处机所创，北京今天的白云观就是丘处机开山立宗的地方。吕祖宫远不及白云观占地宏大，但也是全真龙门派当年的重地，这里正在举办第一期道教研究生班，每到周末就有大学教授登台讲座，下面坐的则是来自全国各地道观的出家人。
今日道士依然有严谨教规
吕祖宫也有高鼻梁的老外摸到这里，进门就用英语问谁能说英语。见在场的几位出家人没人能应答，老外拿着相机就在大殿里摁快门。按理通常文物单位都谢绝游客在室内拍照，但几位道人只是微微笑着并不阻止，一问之下的回答是：大老远来一趟不容易。
这大约是出家人的与人为善了，远望过去他们似乎属于另一个世界。吕祖宫的几位出家人都来这里落脚不久，他们的通则是常常不固定长住某地道观，且多在全国的道观游学，到了某处长则待数月短则十多天。说起来就笑：万卷书没读过，万里路是走过了。问他们去留都是因何起止，回答说：看机缘吧。很有些出家人无家的了无牵挂。
全真派教规严谨，不论在哪个道观修行，每天饮食起居都有严格的时间限制，早晚两遍功课更是雷打不动。除了参加教内的活动，或者去白云观拜访道友，道人们平时极少出门，有空闲时间就以琴棋书画清心静气。在挨着二环路的吕祖宫，车马喧哗声中清静下来好像不容易，而道人们只是淡淡地说：早晚上下班高峰略有点闹，其他时候也不觉得。除了依旧保持汉代风貌的发髻和服饰，这份平心静气确实也和常人颇不相同。但修道也不是全不问世事，电视、报纸也已经是出家人了解世界的方式，道人们每年也有假期回家探望父母，而不是像过去那样，一出家就完全斩断俗缘。
