大約在戰國末年，公元前三世紀四十年代左右，壽春已經發展成為淮上的通都大邑，江淮交通又有新的發展，于是在沿肥、施二水通道的南端，就相應地又有一個新的城市興起。這就是合肥。 在三國鼎立、南北分裂的局勢中。曹操經營淮南，在佔有壽春及其附近的沿淮地之後，公元200年以劉馥為揚州刺史，單馬造合肥空城（約在今水西門外肥河西北一公里許），以為淮南的前衛陣地。于是魏、吳雙方的步卒和舟師，都出入于巢湖、東關（今無為、含山兩縣間裕溪水的隘口），展開水攻陸戰。公元215年，當曹操以大軍親征關中的時候，屯守合肥城的只有張遼與樂進、李典等將領帶領的七千人，而孫權卻乘機率領十萬之眾前來圍攻。在此兵力懸殊的緊迫情況下，張遼挑選“敢從之士”八百人出城應戰，身先士卒，直沖到孫權麾下，大戰于逍遙津北。孫權倉皇躍馬過橋，逃到橋南，才幸免于難，接著就解圍而去。這是魏軍守衛合肥一次有名的戰役。公元233年，魏都督揚州諸軍事滿寵，便在城西約十五公里處的雞鳴山東麓，建一新城。這座城就是有名的合肥新城。這個新城的遺址，至今還有一些遺跡可見。 魏晉之際，由合肥東出涂水直逼建鄴的通路，也有所發展。公元250年，吳在堂邑（江甦六合）堵塞涂水，圍築涂塘，以淹北道，指的就是這一通道。 東晉南北朝時，合肥是建康西面的門戶。公元321年，晉元帝以尚書戴淵為鎮西將軍鎮守合肥，就是北防侵及淮上的石勒，西備荊州的軍閥勢力王敦。公元506年，北魏軍攻佔了合肥城，梁豫州刺史韋睿堰肥水浸灌城垣，戰勝了北魏軍。從此，這座古城因地勢過于低窪而逐漸趨于荒廢。 隋初，在合肥設置廬州，以韓擒虎為廬州總管，立鎮置戍，作伐陳的準備。公元589年進軍伐陳時，韓擒虎一路，由合肥出橫江（和縣東南大江渡口），渡至采石，就是首先攻入建康的主力之一。 唐宋以來，沿用廬州的建制不改。唐初，在故城東約四公里的肥河南岸一片高地上，開始營建新城，稱為“金斗城”，沿城北的一段肥河也稱為“金斗河”。宋時，金人渡準南侵，廬州首當其沖，多次為金軍所騷擾。1169年，南宋朝廷下令促修廬州城，知廬州郭振在朝廷詔令的督促下，就較大規模地擴建這座州城，把城垣擴大到河北，使金斗河水和兩岸的市場都包括在城內。在河水出入城垣之處，後來又修建有東西兩個水關。這座城垣，稱為“斗梁城”。這就形成了現代合肥舊城的規模。 宋金戰爭中，廬州為淮西要地，南宋愛國軍民常在這一城下打擊渡淮南侵的金偽軍。例如1131年，廬州知州王亨領導城中軍民大破偽齊軍。1134年，岳飛部將牛皋增援廬州，在城下追擊金兵。到南宋末的1238年，蒙古大將察罕，帥兵號稱八十萬圍攻廬州。南宋守將杜杲率領城中軍民堅守，火燒攻城的高壩，又在城中築高塔架炮轟擊敵、軍，再乘勝出擊，敵軍敗去。這些戰役，閃耀著這座歷史名城的光輝。 元代統一全國後，在合肥設置廬州路，屬河南江北行省，明初，升廬州為廬州府，直轄于南京，清代仍為廬州府，分屬于安徽省，領合肥、廬江、舒城、無為州和巢縣，共四縣一州。辛亥革命後，取消府州的建制，保留合肥縣。全縣面積六千多平方公里，為全省第一大縣。 抗日戰爭爆發，1938年5月合肥淪陷。長達七年之久的軍事佔領，更使這座古城遭受嚴重的破壞。抗日戰爭結束後，合肥成為一個臨時省會。 中華人民共和國成立以後，正式建立了合肥市，將原合肥縣分為肥東、肥西兩縣。到1964年又分壽縣、定遠和肥東、肥西各一部分新設長豐縣。現在，長豐、肥東、肥西三縣都是合肥的市轄縣。
