安徽省图书馆前身是安徽省立图书馆，1913年2月创建于安徽安庆。1953年4月调整更名为安徽省图书馆，馆址位于合肥逍遥津公园西侧，1962年12月迁至包河公园西南侧。1998年10月在原址上进行大规模扩建，总建筑面积达3.61万平方米，2003年11月全面对外开放。安徽省古籍保护中心、中国数字图书馆安徽分馆、中国盲文图书馆安徽分馆均设立在本馆。作为公共文化机构法人治理结构改革试点单位，安徽省图书馆于2019年正式成立第一届理事会。

截至2023年末，全馆共设有内设机构16个。工作人员181人，其中大专以上学历占97.2%，高级专业技术职务岗位聘任46人。馆藏普通文献418万余册（件），包括普通古籍40,306部319,019册，善本古籍3,247部33,134册；电子图书165万余册；数字资源总量812TB。作为国务院批准的首批全国古籍重点保护单位，安徽省图书馆现有132部古籍入选前六批《国家珍贵古籍名录》，85部古籍入选《安徽省珍贵古籍名录》。馆藏中还建有章伯钧等安徽名人专藏。