《三國誌·張遼傳》記載“毛集孫權，令遼、、李典三將七千人往合淝”。據三國梁武帝記載，合肥之戰發生在215年(建安二十年)八月。“孫權圍合肥，張遼、李典敗之。”在此之前，曹操分別於212年(建安十七年)冬，214年秋攻打孫權。那麽哪次進攻後，曹操留下張遼鎮守合肥？
《三國誌·列傳》記載，曾“臣服於孫權”，曹操歸李後才“與張遼、李典並留合淝”。據《三國誌》記載，公元212年曹操征孫權時，孫權向早已入蜀的劉備求救。劉備在緊急關頭，提到“樂進在倪青拒絕關羽”。因此，214年冬曹操離開合肥時，張遼、樂進、李典等人應該還留在合肥防守吳棟。此外，曹操還命文輝為揚州刺史，幫助三國將士保衛吳棟。
214年5月，孫權攻下安徽城，張遼卻率軍求援，立即返回合肥駐軍，並立即向特使向曹操報告。此時曹操正在率軍攻克漢中的張魯，救援合肥已經來不及了，於是他寫了壹封密函，派軍衛薛煦前往合肥，並在這封密函上寫上“賊即發”二字，要求張遼等人等到吳棟入侵後再打開。
今年八月，這封密函發出後不久，孫權來了，“率數十萬人圍合肥”。按照曹操的要求，大家壹起打開信看了起來。密函的內容是曹操抵禦東吳入侵的人事部署。“若孫權到，張將軍、李將軍出戰；樂將軍將守之，軍將不必戰。”曹操讓張遼、李典出征，樂進負責守城，薛冕不參戰。所有的將軍都不明白曹操為什麽要這樣安排。張遼大膽表示理解曹操的安排:“與其被救，不如去公遠征，破我者，必反。所以要抨擊教指及其失敗，要斷其繁華，要讓大眾安心，再要為其辯護。成敗的機會，在這壹戰中，妳懷疑什麽？”與張遼關系不睦的李典也支持這壹觀點，於是最終敲定了作戰方案，戰後進行了保衛戰。當晚，張遼從軍隊中挑選了800名誌願軍組成敢死隊，大擺殺豬殺牛的宴席，準備天亮動身前往吳棟。
第二天清晨，張遼和李典壹起率領800人的敢死隊殺到了吳棟營地。張遼身披鎧甲，手持長戟，壹如既往地發揮他勇猛向前的戰鬥作風，率先進攻吳棟軍營。他不僅殺死了幾十名士兵，還斬首了兩名將軍。面對毫無準備的吳棟軍隊，張遼變得越來越勇敢。他不僅奮力壹搏，還大聲呼喊著自己的名字，不知不覺就沖到了孫權所在的中央大營。孫權對張遼的突然襲擊毫無準備。他大驚失色，周圍的人壹時間都不知道該怎麽辦，只好退到高處自衛。張遼見孫權依仗高處，持戟防備，便挑釁孫權軍，“革除用兵權”。孫權沒有輕舉妄動，而是先觀察清楚形勢。由於孫權住在高處，他很快發現張遼率領的軍隊數量並不多，於是利用自己的力量“集遼而重數”。張遼的左右兩翼立刻出擊，打開了壹個缺口，於是張遼得以率領數十名秦冰突圍而出。此時，敢死隊的壹些成員被吳棟軍隊圍困。他們大聲向張遼求救:“將軍拋棄了我！”張遼聽了，沖進包圍圈，帶領剩下的人突圍。
這壹戰，張遼和李典帶領敢死隊從淩晨殺到中午。作為領軍人物，張遼的表現最為突出。面對張遼的神勇表現，《三國誌·張遼傳》用了九個字來形容東吳軍隊，說“男女皆無敵，無人敢勇”。結果東吳軍隊士氣壹落千丈。另壹方面，合肥守軍士氣低落，更加佩服張遼。全軍壹心構築工事，死守城池。值得說明的是，張遼這次帶出來的八百人，並不是曹魏擅長的騎兵，而是步兵。曹丕後來在銘記張遼、李典的聖旨中明確寫道，“合淝之戰，遼、典走八百步，破賊數百”。合肥之戰是張遼巔峰之戰。在這壹戰中，張遼不僅立下了汗馬功勞，而且發揮了自己的才能。他的勇敢和勇氣都得到了充分的展示。
首先，對曹操戰略意圖的理解，顯示了張遼的軍事才能。戰前曹操派人帶來合肥的防禦計劃。很多人對曹操讓張遼和李典進攻的政策感到不解。最先明白曹操戰略意圖的是張遼:曹操遠征出城，救援不及，只好“先破其勢，然後他(吳軍)再反擊，以安定民心，然後他才能自衛”。張遼正確理解了曹操的戰略意圖，為合肥之戰的勝利奠定了基礎。可見張遼在戰前就已經立下了汗馬功勞。同時可以看出，此時的張遼已經具備了很高的軍事能力。
其次，曹操進攻策略的實施，顯示了張遼的決心和勇氣。雖然先攻後守是曹操的戰略方針，但實施起來相當困難。第壹點是實力懸殊。當時駐守合肥的只有7000人，而吳軍是從10萬人中出來的。防守這座城市仍然很困難，更不用說進攻了。第二點是將領迷茫，在實力懸殊的情況下不得不進攻。難怪守城將領對攻之策心存疑慮。雖然張遼已經說明了原因，但是紙上談兵的解釋很難完全說服糊塗的武將。在這種情況下，張遼不僅要果斷，而且需要極大的勇氣來實施這壹戰略。
第三，兩次出場顯示了張遼勇猛的戰鬥作風。第壹戰，張遼和李典只帶領800人對孫權的10萬人發動突然襲擊，而在戰鬥中，張遼率先沖鋒。這場戰鬥持續了整整壹個上午，吳棟軍隊戰無不勝。縱觀《三國誌》，有幾處如此詳細地描述了某人的戰爭，可見當時陳壽也對張遼的神勇表現印象深刻。而第二次，雖然這個傳記沒有第壹次那麽詳細，但妳也可以從“數討還權”這幾個字想象出張遼在戰鬥中的勇猛。
合肥之戰的勝利對曹魏意義重大，因為合肥是曹魏在江淮地區極其重要的戰略要地。“若出大江北，得合肥，可西問沈、蔡，北問徐、壽，可比中原；中原得了合肥，江南就尷尬了。所以曹操非常重視張遼，他在這場戰爭中立下了汗馬功勞。在史記中，陳壽在《三國誌》中只用了兩次“毛大壯遼”和“大壯”這兩個詞，分別在《三國誌·張遼傳》和《徐川傳》中，可見其分量之重。曹操還封張遼為東征大將軍。216年(建安二十壹年)，曹操攻吳棟，過合淝時，也到了張遼打仗的地方，所到之處，嘆息良久。