哈尔滨工业大学图书馆建于1920年。建馆初期，馆舍面积只有七、八十平方米，藏书仅几百册。1950年初，中华人民共和国政府接管哈工大，从此哈工大图书馆在党和政府关怀及学校重视下，逐步发展壮大。1954年，哈工大图书馆迁至西大直街169号之后，馆舍面积达到3200平方米，馆藏图书增加到40万册。20世纪60年代中期，图书馆已逐渐形成了中外文兼顾、理工并重，以机、电、仪书刊为主体的，具有哈工大专业学科特色的藏书体系。进入90年代后，图书馆业务工作开始由传统的手工操作方式逐步向现代化管理模式转变，尤其是1995年新馆的落成，掀开了图书馆发展历史的崭新一页。
2000年，哈尔滨工业大学与哈尔滨建筑大学合并后,哈工大图书馆拥有了两座独立馆舍和建筑分馆，总面积为3.9万平方米，其中图书馆（一区）2.3万平方米，图书馆（二区）1.6万平方米，建筑分馆534平方米。2016年，图书馆（二区）开始进行升级改造。2017年改造完成后馆舍面积达到2万平米。 2009年，图书馆（一区）馆舍进行了外立面和周边环境改造，整体建筑风格焕然一新。两校区馆舍内都增加了大量网络信息节点，公共区域由无线网络覆盖。2010年受北京青年校友会的捐赠，文献检索机增至106台。现拥有各类借阅室、电子阅览室、多媒体教室、会议室及大型多功能报告厅。阅览座位2700个。
图书馆拥有丰富的馆藏量。截止到2016年底，图书馆已拥有传统型馆藏340万册/件，电子图书279万种，数据库的总数量为132。其中：文摘数据库14个，外文全文数据库45个，中文数据库26个，中文电子书6个，外文电子书14个，多媒体资源6个，发现系统2个，免费电子资源19个，包括各种大型综合性数据库、各类的专业学会出版物全文数据库。图书馆自建了2003年以来的本校学位论文全文特色库，并开始筹建国防工程文献特色库。馆藏文献信息已形成与学校院系设置相适应的多学科、多语种、多载体、综合性资源体系。图书馆（一区）藏书以工科为主，理工、管理学科相结合，图书馆（二区）藏书以土木工程、市政与环境工程、交通工程及基础学科为主，建筑分馆藏书以建筑学与城市规划学科为主，同时各馆均兼有人文社科等学科的藏书。
图书馆逐步扩大对读者服务的广度和深度。在原有藏、借、阅一体的现代化文献信息资源管理方式，以及提供文献查阅、信息咨询、科技查新、原文传递、检索认证等服务项目基础上，于2009年正式运行了基于B/S模式的图书馆综合管理软件系统。不但提高了借还、采编等业务管理层次，而且实现了各校区图书馆的通借通还服务。同年，改进了图书排架方式，由原来的按作者号排架改为按种次号排架，顺应了现代读者检索习惯。2010年，图书馆增加了读者手机短信服务，并开始对部分学科的图书试用RFID智能馆藏管理系统，还启动了跨库检索系统建设项目。 图书馆承担了教育部CALIS数字图书馆基地、CALIS黑龙江省文献信息中心的职能。将通过相关建设项目，为全省的高校图书馆提供人员培训、文献传递、资源整合等一系列服务。并以此，在全省乃至全国发挥一定作用。 图书馆设有机构：行政办公室、业务办公室、技术部、采编部、信息咨询部、读者服务部、国防工程文献中心、阅读推广部、建筑分馆。
哈尔滨工业大学图书馆秉承“规格严格，功夫到家”的哈工大精神，正朝着建设“现代化、研究型、开放文明的世界大学图书馆”的发展目标扎实奋进。
