延安中山图书馆始建于1937年5月，毛泽东亲自题写了馆名，林伯渠担任第一任馆长，是中国共产党成立后建立的第一所红色公共图书馆。1938年延安遭受日机轰炸，馆务一度停顿。1939年，边区政府为适应干部学习研究需要，决定整顿、重建。1939年12月13日，当时留在延安的全体理事邀集延安各界，商讨整顿与扩大该馆事宜。会议讨论决定：一是中山图书馆成为延安一个大型图书馆来建设；二是修订章程；三是聘林伯渠、吴玉章、董必武、徐特立、谢觉哉、张云逸、林彪、成仿吾、陈伯达、艾思奇、周扬、何思敬、邓颖超、孟庆树、丁玲、冯文彬、李昌等17人为理事，林伯渠同志任馆长，李昌任馆主任。随后召开了第一次理事会。1940年2月14日，林伯渠馆长召集了第二次理事会。增选王林、胡乔木同志为理事，选举艾思奇、何思敏、周扬、王林、胡乔木同志为常务理事，改由胡乔木担任主任。1940年7月，延安中山图书馆正式开馆。
1950年7月，更名为“延安图书馆”，林伯渠题写了馆名。1996年5月，在原延安地委行署（延安市政府）批准，恢复了“延安中山图书馆”。该馆现占地面积约5亩，馆舍建筑面积3802平方米。目前，在职人员39人，其中专业技术职称24人。
2012年8月，延安中山图书馆（宝塔区图书馆）上划为延安市图书馆(延安中山图书馆），两块牌子，一套机构。 目前，馆内设报刊阅览室、少儿借阅室、过刊阅览室、图书借阅室、基本文献室、电子阅览室、特藏文献库、地方文献室等8个对外服务窗口。馆外有八一敬老院、延安监狱五分监区、延安市聋哑学校等12个流动书屋；延安市审计局职工书屋、宝塔区工会职工书屋及宝塔区3个办事处22个社区共46个流动服务点。负责指导全市12个县级公共图书馆、全区611个“农家书屋”、655个共享工程服务网点的业务。阅览坐席达300余席，全年365天开放接待读者，年接待读者14万余人次，年解答参考咨询服务2000余条。
延安市图书馆藏书27.8万余册，其中古籍善本2.1万册，1962种。现藏部分图书是当年边区政府、毛泽东、周扬、武衡等老一辈无产阶级革命家捐赠的图书，年购新书6000余册。
