黑龙江省公共藏书，最早见于文字记载的是公元830～856年渤海国咸和年间设立的藏书 机构——文籍院。文籍院藏书约数万卷，多为中原汉籍，主管官员依唐制称蓝、少监等。著 名诗人裴颋曾任少监。
　　　　辽、金时代只有金朝的完颜勖、宇文虚中、高士谈等私人藏书的记载，未见公共藏书记 载。
　　　　清代以后，黑龙江私人藏书渐多，如吴兆骞、张缙彦、萨布素、庆善等人都建有私人书 室。还有宁古塔官学、阿勒楚喀官学、双城厅官学等官学藏书。
　　　　清代晚期，俄罗斯人在哈尔滨市建有铁路图书馆，如1900年的中东铁路临时工厂图书室、 1902年的铁路俱乐部图书馆等。
　　　　1906年(清光绪三十二年)黑龙江将军程德全奏请清廷批准，在齐齐哈尔市建了一个简陋 的图书馆。1910年(清宣统二年)在图书馆基础上建了一个藏书楼，正式定名为黑龙江图书馆， 隶属黑龙江提学使司，藏书甚少。1912年黑龙江图书馆改称黑龙江省立图书馆。
　　　　清朝末年，有的县也建有藏书室、图书馆。如1908年(光绪三十四年)巴彦知州陈元慎在 宣讲所设立的图书馆；1911年(宣统三年)呼兰、嫩江两县劝学所成立的图书室。
　　　　民国后，黑龙江省公共图书馆有所发展。1917年(民国6年)2月17日黑龙江省教育厅提出 《普设通俗图书馆分年筹备办法》。从1912年至1931年，先后建立县(区)图书馆有33所，民 众教育馆书报阅览室共14处。1930年10月，黑龙江省立图书馆新建藏书楼峻工并开馆。在此 之前1926年(民国15年)6月，哈尔滨市图书馆亦在炮队街开办。
　　　　“九一八”事变后，黑龙江省公共图书馆遭到破坏，并逐步沦为奴化中国人民的工具。
　　　　抗日战争胜利后，东北民主联军和各级政府注意保护和接收日伪时期的图书馆，改组成 县文化馆或县民众教育馆图书室。
　　　　1946年4月人民政府接管原哈尔滨市立图书馆，并以此为基础筹建东北图书馆。同年，龙 江省立齐齐哈尔图书馆(原黑龙江图书馆)改称齐齐哈尔市立图书馆。1948年8月15日东北图书 馆在哈尔滨一曼街7号开放，藏书16万册，职工27名，成为当时解放区的藏书大馆。1949年1月 东北图书馆迁往沈阳。6月，在旧址以5万册留存的藏书又筹建哈尔滨市图书馆。
　　　　中华人民共和国成立后，黑龙江省公共图书馆迅速发展。1956年12月11日至14日，黑龙 江省文化局召开公共图书馆工作会议，贯彻全国图书馆会议精神。这时，全省图书馆已发展 到11所，有齐齐哈尔市立图书馆、哈尔滨市图书馆、牡丹江市图书馆、佳木斯市图书馆及绥 化、双城、巴彦、讷河、富锦、依兰、瑷珲等县图书馆。同年，黑龙江省图书馆筹备处正式 成立。1958年，黑龙江省公共图书馆发展到47所，1959年增加至57所。1960年图书馆事业开 始调整，至1965年图书馆降为25所，其余县图书馆改为县文化馆图书室。
　　　　“文化大革命”中，公共图书馆受到摧残，藏书遭到破坏，图书馆干部受批判，有26所 县图书馆被取消或合并为“毛泽东思想宣传站”。1973年图书馆开始恢复和发展。1976年“ 文化大革命”结束时图书馆达到76所。
　　　　中国共产党十一届三中全会后，公共图书馆事业发展加快。1979年黑龙江省公共图书馆 达到83所，普及了市、县图书馆。至1985年全省新建、扩建馆舍55所，市馆馆舍平均为2 241 平方米，县馆馆舍平均为467平方米。1985年底以前，启用新馆或扩建的城市中心图书馆有哈 尔滨市图书馆、齐齐哈尔市图书馆、大庆市图书馆、双鸭山市图书馆、鹤岗市图书馆、七台 河市图书馆。其它市级图书馆亦开始修建。1985年，公共图书馆藏书总计为860万册，购书经 费为134.4万元，图书馆开馆时间超过300天，领证读者18.1万个，年接待读者5 276万人次， 流动书刊1 396.1万册次。