安徽省庐江第二中学创办于1974年，原名庐江县城关中学，原址位于庐城镇塔山路168号，1979年更为现名。2001年成为原巢湖市示范高中，2006年升格为安徽省示范高中。2017年庐江县委政府决定迁建庐江二中新校区（泥河西路399号），2018年6月工程全面启动，2020年9月正式投入使用，2021年7月学校完成整体搬迁工作。