刘少奇在开封陈列馆主体建筑初为“同合裕银号”，始建于1928年，属于典型的中西合璧式近代建筑，总面积879平方米，刘少奇主席便逝世于该处。中共开封市委责成市委党史研究室征集有关资料，按原貌整修刘少奇逝世处，建刘少奇铜像、刘少奇逝世纪念碑及展厅。
刘少奇在开封陈列馆仍保持同合裕银号初建时的风貌。整个陈列馆座西朝东，为一天井院式的三层楼群，属于典型的中西合璧式近代建筑。
刘少奇在开封陈列馆座西朝东，由大门；前院、保护厅房和东楼；后院、北楼、西楼（逝世房间）、南楼和南二楼等主要部分组成。其中，天井院正中建有少奇同志铜像，北侧有汉白玉纪念碑，后厅左边房间是少奇同志逝世处，摆放着他生前所用的床铺、枕头等用品，两侧陈放着少奇同志逝世前的病历、遗体火化介绍信、骨灰盒，以供人们凭吊瞻仰。
陈列馆前院大门恢复了建筑原貌。院门正上门镶嵌有薄一波题写的馆名。前院南北两侧建有高大围墙，围墙上有碑廊，北面是邓小平、陈云、李先念、彭真的题词，南面是刘少奇《论共产党员的修养》的手稿局部。
东楼一楼展览厅临前院为外走廊，四根两层楼高的圆形廊柱为混凝土结构，底部直径1米，廊柱柱头饰花卉浮雕。展览厅厅门正上方嵌有邓小平题写的“缅怀刘少奇”匾额。展厅内以大量的珍贵图片和部分珍贵文物，展示了刘少奇同志的主要光辉业绩、高尚风范和蒙冤逝世的情景。
天井院中敬建有刘少奇铜像，院子北侧立有一块汉白玉碑，碑上敬刻着原国家主席杨尚昆的题字“刘少奇主席逝世处”和由开封市政府撰文、其子刘源敬书的碑文。
天井院北楼一层为银号金库，刘少奇主席逝世后，遗体停放在金库通往地下室的南道间。北楼二层在“监护”刘少奇主席时，设有专线电话直通“中央文革”，天井院四楼即为“监护”刘少奇主席的人员住处和刘少奇主席逝世房间。其中，西楼中间房屋内正墙上方悬挂着刘少奇主席巨幅标准像，像下嵌有一块汉白玉雕成71朵菊花的浮雕，表示刘少奇主席享年71岁。
刘少奇在开封陈列馆的六个展柜内分别陈列着刘少奇主席逝世前的病历、鼻食管等，逝世时的遗体火化介绍信、火化登记卡、骨灰盒、骨灰寄存证，刘少奇主席生前穿过的衣服、戴过的帽子、用过的皮箱等。靠南端是刘少奇主席逝世房间，按原样摆放着病床、被褥、枕头、氧气瓶、吸痰器、输液管架、药橱药品、大小便器等。
刘少奇在开封陈列馆（刘少奇主席逝世处）馆舍是1928年由王曼卿建造的“同合裕银号”。
1933年，银号倒闭，改为河南省银行，后改为河南农工银行，日伪时期在此设市政府，日本投降后仍归河南省银行。
1948年5月，开封第一次解放时，曾为冀南中州银行驻汴联合办事处。
1948年10月，开封二次解放后为开封市人民政府所在地。
1969年10月17日，重病中的刘少奇同志被秘密送到该处“监护”，1969年11月12日在这里蒙冤逝世。
1980年2月，党的十一届五中全会作出《关于为刘少奇同志平反的决议》后，为世代缅怀刘少奇同志，开封市政府根据省委1988年指示精神，于1992年4月1日公布刘少奇主席逝世处为市级文物保护单位。
1993年8月，中共开封市委决定将刘少奇主席逝世处辟为刘少奇在开封陈列馆，计划按原貌整修刘少奇主席逝世处，建刘少奇铜像，建立展厅，建纪念碑廊。
1993年10月，在刘少奇同志诞辰95周年之际，刘少奇铜像落成并揭幕。
1994年11月12日，纪念刘少奇同志逝世25周年时，刘少奇在开封陈列馆正式开放，薄一波同志为陈列馆亲笔题写了“刘少奇在开封陈列馆”馆名。
1995年8月，该处被公布为开封市中小学德育基地。
1997年，开封市委又批准建立刘少奇在开封陈列馆管理处。
1999年8月，中共中央办公厅督察组就贯彻落实中发[1999]7号文件规定，对刘少奇逝世处检查后，研究同意刘少奇逝世处作为人物纪念设施予以保留。
1992年4月1日，开封市人民政府公布刘少奇主席逝世处为市级文物保护单位。
2000年9月25日，河南省政府将刘少奇逝世处公布为省级重点文物保护单位。
2013年3月，鉴于刘少奇在开封陈列馆在全面推进廉政建设方面取得的较好社会效果，开封市纪委将其命名为首批7个市级廉政教育基地之一。
2014年12月5日，开封市委党校教学基地在刘少奇在开封陈列馆正式揭牌成立，刘少奇在开封陈列馆成为开封市委党校教学基地。
2015年1月11日，刘少奇在开封陈列馆被授予焦裕禄干部学院现场教学点。
2015年8月，河南省委党史研究室正式命名刘少奇在开封陈列馆为河南省党史教育基地。
2015年10月12日，刘少奇在开封陈列馆成为开封市公务员教育基地。
