安徽省文物考古研究所成立于1958年4月，其前身为安徽省文化局文物工作队，成立之初，全队只有十几个人，几间办公房，条件十分简陋。
1979年3月潜山薛家岗遗址发掘现场
1964年2月，根据当时研究工作的需要，合并至安徽省博物馆，与安徽省博物馆合署办公，业务分开，经费单独核算。
1974年，为适应配合当时的工农业生产抢救保护文物的需要，我队又从省博物馆分出，成立安徽省文物工作队，县处级建制，内设考古部、文物保护部、办公室等，有职工20多人。1978年安徽省文物事业管理局成立（正厅级），曾隶属该局。1983年机构改革，经省编委批准，撤销安徽省文物工作队，组建安徽省文物考古研究所，编制40人，县处级建制，隶属省文化厅。1984年5月我所正式挂牌，是全国成立最早的省级文物考古研究所之一。1987年科技体制改革，我所行政事业经费拨款渠道改由省科委管理至今。2006年8月经省编委批准，同意我所增加10名事业编制，并增加1名副处级领导职数。我所现有编制50人，在职人员44人，聘用人员25人，离退休人员24人，在职人员中各类专业人员39人，其中研究馆员8名、副研究馆员6名、中级职称13名。享受国贴、省贴2名、学科带头人1名、拔尖人才1名。内设办公室、保卫科、人秘科、财务科四个行政科室及考古部（含第一、二、三研究室，寿县工作站）、古建筑研究室（文物保护中心）、文物科技保护研究室、资料室（《文物研究》编辑部）等业务部室。本所还是省考古学会的挂靠单位，承担学会各项具体工作。
安徽省文物考古研究所遵循“保护为主，抢救第一，合理利用，加强管理”的文物工作方针，以安徽省文物事业发展战略为指导，以配合经济建设为中心，围绕重大学术课题，开展全省文物的调查与考古发掘、地面文物保护、文物科技保护、科学研究和技术指导任务。是全省惟一具有国家颁发的团体考古领队资格、文物保护规划、文物修缮设计甲级资质的专业单位。主要承担全省文物调查、考古发掘、研究和古建筑维修方案设计、文物科技保护以及相关业务指导工作。近年来，本所还承担着全省第三次文物普查办公室的具体工作和南水北调文物保护工作河南段的监理任务。本所高度重视安全工作，连续27年实现文物安全无事故。
2008年6月我所在省博物馆举办《凌家滩史前文明探秘—含山凌家滩遗址出土文物特展》
近三年来，本所抢抓契机，积极配合重点工程建设，开展文物抢救和考古科研工作。先后配合合蚌高铁、宿淮铁路、京福高铁、阜六铁路、宁安铁路、蚌淮高速、芜雁高速、屯祁高速、宣宁高速、合淮阜高速、阜新高速、凤明高速、济祁高速等基建重点项目以及合肥经开区、江北集中区、省荣军医院、六安、寿县、广德、马鞍山、肥东等地城建和开发区建设计40余项重点工程，开展了系统的考古调查、勘探和抢救发掘工作。累计考古勘探600万平方米，发掘古遗址4万平方米，古墓葬2000余座，出土各类文物标本2万余件，取得了一批重要考古发现。本所还积极开展了文物保护规划编制和文物修缮方案设计以及文物保护工程工作。在文物保护规划编制方面，先后完成了《刘铭传旧居保护规划》、《大运河安徽段保护规划》，并通过国家文物局评审。初步完成了《皖南土墩墓保护规划》、《江村古建筑群保护规划》、《许村古建筑群保护规划》，并通过省级评审。在文物修缮设计方面，先后完成了刘铭传旧居、霍邱李氏庄园、青阳李氏宗祠、冯玉祥故居、金寨漆氏宗祠、绩溪胡氏宗祠、池州武氏宗祠、寿县明伦堂等30多处维修方案设计。在文物保护工程方面，先后完成了寿县魁星楼、岳西储氏祠堂、合肥高家祠堂、青阳李氏宗祠维修工程以及金寨漆氏宗祠、池州武氏宗祠异地迁建。上述工作既有力地支持了全省的经济建设，又很好地保护了文化遗产，使得文物考古工作得到全社会的普遍关注，取得了良好的社会效益。
2007年1月24国家文物局局长单霁翔等领导视察六安一号汉墓发掘现场与王陵区
近年来，本所不断加强考古资料整理和研究，推出了一批新成果。近三年来共发表考古报告、论文60多篇，编辑出版了《凤阳大东关与卞庄》、《皖江汉魏古铜镜选粹》、《霍邱堰台遗址》、《天长三角圩西汉墓》、《安徽乡土建筑遗产》等专著和《文物研究》（第十七、十八、十九辑）、2009、2010、2011和2012年度《考古年报》等书刊，进一步扩大了学术影响。此外，还指导了安徽大学、南京大学、南就航空航天大学、南京师范大学、吉林大学等高校考古学专业100多名本科生、研究生田野考古实习工作，培养了一批考古新生力量。
2007年5月 考古专家在凌家滩现场在为含山县运漕中学学生讲解考古发掘情况
通过几代人的艰苦创业和辛勤耕耘，取得了一系列丰硕成果，荣获了上级部门多次嘉奖和表彰，为安徽文物事业做出了突出贡献。特别是近几年来本所成果不断，继本所主持的“六安双墩汉代墓” 获2006年全国“十大考古发现”后，本所主持的“蚌埠双墩一号春秋墓”获2008年全国“十大考古发现”和国家文物局田野考古三等奖，本所主持的“固镇垓下大汶口晚期城址”获2009年度“全国十大考古新发现”。省人民政府通报表彰了本所主持发掘的“六安双墩汉代墓”、“蚌埠双墩一号春秋墓”、“固镇垓下大汶口晚期城址” 获当年全国考古十大发现，为安徽文博事业赢得了荣誉。本所组建的“蚌埠双墩一号春秋墓”考古队于2010年6月被省委组织部、宣传部、省人社厅和科技厅四部门联合表彰为人才工作先进集体。2011年12月，被安徽省表彰为“第三次全国文物普查工作先进集体”。多年来，多次被驻地政府表彰为“卫生先进单位”、“双拥工作合格单位”、“合肥市文明单位”。2007年、2011年，被人社部、国家文物局表彰为“全国文物工作先进集体”，2012年，被省人社厅、省文化厅联合表彰为“全省文化系统先进集体”。
2008年4月《蚌埠双墩》专著出版学术座谈会
在基础建设方面，先后完成了科研基地和寿县中心工作站综合楼建设。科研基地位于经开区翠微路469号，建于2005年，占地约10亩，建筑面积7000平方米，由本所自筹约1000万元，2007年建成使用。主要用于文物整理、修复、保护、研究及文物标本保管、陈列，图书资料保管等，全省第三次文物普查办公室和文物数据库机房也设在此处。寿县工作站2010年投入使用，建筑面积4500平方米，承担皖北地区考古资料的整理研究。
本所的文物保护科技研究室现有EAGLE-Ⅲμ X射线荧光能谱仪、Nicolet 6700傅里叶中远红外光谱仪、Thermo Fisher DXR拉曼光谱仪、LC-20A高效液相色谱仪等大型分析仪器及BR-SUN-T老化箱、恒温水浴槽等文物保护及修复设备，投资约300万元，实验研究与办公用房为800多平方米，依据现代实验室的要求进行装修，并根据文物保护和修复的具体要求进行了细致的功能划分。2008年，由国家文物局授予“可移动文物技术保护设计乙级资质”与“可移动文物修复一级资质”。目前进行的文物保护项目有六安双墩一号汉墓出土文物保护、馆藏青铜文物保护修复、六安白鹭洲出土荒帏保护修复、六安白鹭洲出土青铜剑及剑匣保护修复、六安观音寺塔出土彩绘经书保护、六安白鹭洲出土漆甲的保护修复等。