胶州市图书馆（原胶县图书馆）正式成立于1956年，胶县图书馆（初建时称胶县通俗图书馆）始建于民国四年（1915年），民国十九年（1930）并入民众教育馆。几经易址，迁入城隍庙院内；1994年迁至湖州路222号；2016年5月，胶州市图书馆在市民文化中心正式开馆。现馆建筑面积6000余平方米，馆藏图书30余万册,报刊300余种，阅览座席500余个，采取全开放式的服务。新馆拥有智能化自助借阅系统、24小时自助图书馆、电子阅报系统、自助图书查询系统、移动图书阅览系统、无线网络全覆盖以及培训、讲座、展览等多个服务项目。
胶州市图书馆系国家一级图书馆，秉承“读者第一。服务至上”的原则，不断提升服务质量和服务水平，为您的阅读之旅提供方便，为促进图书事业的发展不懈努力。
胶州市图书馆不断创新工作思路，更新服务理念，经过几代图书馆工作者的拚搏奋斗，胶州市图书馆已初具现代化图书馆的规模，现正加倍努力，向电子化、自动化图书馆的方向迈进。
办公室：负责全馆的日常事务；组织全馆会议和有关工作；进行内外联系，接待来访参观。
采编部：采编部是图书馆图书资料的采集、编目、报导的业务机构。分采访和编目两部分。
借阅部：负责图书的签收、上架、整架、倒架和清点、保管。
在青岛市图书馆的精心指导下，坚持以科学发展观为指导，围绕“读者第一。服务至上”的原则，立足实际，发挥优势，开拓创新，锐意进取，各项工作取得了丰硕的成果，展示出了胶州图书事业的勃勃生机。每年组织举办各类送图书下乡、中小学生乡土文化知识竞赛、全民阅读有奖征文、演讲大赛、诗歌朗诵大赛以及健康知识讲座、文学作品欣赏、爱国影片展映、地方戏曲欣赏等等活动50余次，参与活动的读者和群众达3万多人次，收到了良好的社会效益。文化信息资源共享工程支中心充分利用共享设备，积极开展共享工程进社区、进家庭、进校完活动，并深入到居民家中，放映电影、地方戏等，受到群众的欢迎。2008年被省文化厅、省财政厅命名为“山东省文化信息资源共享工程示范县”。在农家书屋的建设中，深入到全市各镇、办的农家书屋，积极协助、指导和培训农家书屋管理人员开展活动，服务群众，受到广大城乡群众的欢迎。胶州市图书馆先后获得胶州市和青岛市文明单位称号、山东省“农村文化工作”先进单位、青岛市“群众文化工作”先进集体、青岛市“青少年科技教育工作”先进集体等荣誉称号。在1990年、2004年、2009年全国公共图书馆评估定级中，均被评为国家一级图书馆。
鸦片战争之后，西方文化大量传入中国，中国传统的“藏书楼”受到影响，其名称开始演改为“图书馆”。1899年，在青岛建立的“胶州图书馆”，是山东省早期建立的图书馆之一。
胶澳总督府于1899年开办胶州图书馆。
1914年，日本帝国主义借第一次世界大战之机强占青岛，胶州图书馆停办。为“誓死挣回青岛”，1919年爆发了“五四”爱国运动。
1922年12月10日，中国政府收回青岛，北洋政府建胶澳商埠，由时任山东省长熊炳琦兼任胶澳督办，1923年由高恩洪（定庵）接任胶澳督办，公布《胶澳商埠公立通俗图书馆募集图书公启》，筹建图书馆。
1924年8月，胶澳商埠公立通俗图书馆开馆，地址在莒县路2号，创办经费5580元，有藏书室2间，阅览室l间，管理员2人，杂役1人。
1925年，下设讲演所。
1929年4月，南京国民政府接管胶澳商埠，胶澳通俗图书馆停办。
1956年，建立胶州市图书馆（原胶县图书馆）。
1987年4月1日，撤县设市，改称胶州市图书馆。
1994年迁入位于胶州市湖州路222号的现馆。
