市境春秋时为皖、桐、舒等国之域，后属楚、吴。战国时，复属楚。秦属九江郡。西汉初，属淮南王国；高后四年（公元前184），分封松兹侯国（今宿松县境）。初平四年（193），庐江郡治迁皖县。三国时，初属魏，后属吴。东晋义熙年间（405—418），分庐江郡置晋熙郡，于皖县旧地设怀宁县（治今潜山县）和新冶县（今望江县）。南北朝至隋朝初期，先后设豫州、晋州、江州、熙州等。隋大业三年（607），改熙州为同安郡，治怀宁，领怀宁、同安、太湖、宿松、望江5县。唐武德四年（621），改同安郡为舒州，隶淮南道。天宝元年（742），改舒州为同安郡。至德二年（757），同安郡改名盛唐郡。五代十国，为舒州，治怀宁，仍领5 县。先后属吴、南唐和后周。北宋政和五年（1115），置舒州德庆军。南宋绍兴十七年（1147）改德庆军为安庆军（安庆之名始于此年）。庆元元年（1195）升舒州为安庆府，府治怀宁。嘉定十年（1217），知府黄榦筑新安庆城（在今潜山市境，一说在今安庆市区盛塘湾宜城渡）。景定元年（1260）于宜城渡重建安庆城，怀宁县始迁附郭。安庆城自此府、县同城而治。元至元十三年（1276），改安庆府为安庆路。至治三年（1323），划怀宁县清朝、玉照2乡，设置潜山县。安庆路领怀宁、桐城、太湖、宿松、望江、潜山6 县。至正二十一年（1361）八月，朱元璋改安庆路为宁江府，次年四月改为安庆府，仍领6县。明永乐元年（1403），安庆府直隶南京（又称南直隶）。

清顺治十八年（1661），安庆府隶江南左布政使司（治江宁）。康熙六年（1667），江南左布政使司改为安徽布政使司，仍寄治江宁，安庆成为名义上的省会。乾隆二十五年（1760），安徽布政使司由江宁移驻安庆，安庆始为省会驻地，自此省、府、县同城而治。咸丰三年（1853），太平军占领安庆，清廷将省府迁庐州（今合肥），太平军改安庆府为安庆郡，咸丰十一年（1861），安徽省府迁回安庆。同治四年（1865），设安庐滁和道，道署驻安庆，光绪三十四年（1908）裁撤。民国二年（1913），废安庆府，各县直属省。民国三年，设安庆道，领怀宁、桐城、潜山、太湖、宿松、望江、合肥、庐江、舒城、无为、巢县、和县、含山、滁县、全椒、来安16 县（后滁县、全椒、来安3 县归属淮泗道，六安、英山、霍山划人入安庆道）。民国十七年废安庆道，各县直属省。民国十六年十一月至民国十八年二月，析怀宁县城建立安庆市，并成立市政府。民国二十一年，安庆为安徽省第一行政督察区，统怀宁、桐城、潜山、太湖、宿松、望江6 县。民国二十五年增加岳西县。督察区专员公署驻太湖，民国二十九年改驻桐城（同时无为、庐江2县划入，第一区统9县）。安庆沦陷时，省会迁往六安。抗日战争胜利后，督察区专员公署移驻安庆，督察区统怀宁、桐城、潜山、太湖、宿松、望江、东流、至德等县。民国37年（1948）12月省会迁回安庆，民国38年2月迁往屯溪。

1949 年2 月，中共皖西区党委、皖西行署决定，以怀宁县城原有4 镇建立安庆市。4 月23 日安庆解放。安庆专区辖桐城、怀宁、桐庐、潜山、太湖、宿松、望江、岳西8 县和安庆市。9 月，专、市合并，保留安庆市的名称。1950年5月，撤销安庆市，改为怀宁县城关区。10月，恢复安庆市，隶安庆专区。1951年2月，桐庐县更名为湖东县。8月，改安庆市为皖北行政区辖市，由安庆专区代管。1952年1月，皖北安庆专区与皖南池州专区合并为安徽省安庆专区，辖桐城、怀宁、湖东、潜山、太湖、宿松、望江、岳西、贵池、东流、至德、青阳、铜陵13县，仍代管安庆市。10月，安庆市由省直辖。1955年7月，湖东县改名为枞阳县。1958年10 月，安庆专区与安庆市合并。1959年3月，专、市分开，安庆市由专区代管。1961年4月安庆市改为省直辖市。1965年7月，安庆市改为专区所辖；恢复池州专区，贵池、东至、青阳、铜陵4县划归池州专区。1968年8月，安庆专区改称安庆地区。

1979 年11 月4 日，安庆市改为省辖市，并代管国营皖河农场。1980年1月，池州地区所属贵池、东至2县并入安庆地区。1987年12月，徽州地区的石台县划入安庆地区。1988 年8 月17 日，撤销安庆地区和原安庆市，实行地、市合并。新组建的安庆市辖迎江区、大观区、郊区和桐城、怀宁、枞阳、潜山、太湖、宿松、望江、岳西8县。1996年8月，撤销桐城县，设立桐城市（县级），安庆市辖3区1市7县。1998年9月，怀宁县在高河镇建设新县城。2005年5月，调整安庆市部分县（市）区行政区划，市辖迎江、大观、宜秀3区和桐城、怀宁、枞阳、潜山、太湖、宿松、望江、岳西等1市7县。2011年3月，宿松县被列为省直接管理试点县。2015 年底，根据国务院关于安徽省行政区划调整文件，枞阳县划归铜陵市管辖。2018年8月，撤销潜山县，设立潜山市（县级），安庆市辖3区2市5县。