安徽省图书馆前身是安徽省立图书馆，1913 年 2 月创建于安徽安庆。1953 年 4 月调整更名为安徽省图书馆，馆址位于合肥逍遥津公园西侧，1962 年 12 月迁至包河公园西南侧。1998 年 10 月在原址上进行大规模扩建，总建筑面积达 3.61 万平方米，2003 年 11 月全面对外开放。安徽省古籍保护中心、中国数字图书馆安徽分馆、中国盲文图书馆安徽分馆均设立在本馆。作为公共文化机构法人治理结构改革试点单位，安徽省图书馆于 2019 年正式成立第一届理事会。

截至 2023 年末，全馆共设有内设机构 16 个。工作人员 181 人，其中大专以上学历占 97.2%，高级专业技术职务岗位聘任 46 人。馆藏普通文献 418 万余册 （件），包括普通古籍 40,306 部 319,019 册，善本古籍 3,247 部 33,134 册；电子图书 165 万余册；数字资源总量 812TB。作为国务院批准的首批全国古籍重点保护单位，安徽省图书馆现有 132 部古籍入选前六批 《国家珍贵古籍名录》，85 部古籍入选 《安徽省珍贵古籍名录》。馆藏中还建有章伯钧等安徽名人专藏。