曹操有五位大將，史稱“五子良將”，排在首位的是張遼，故為曹操第一良將。在《三國演義》中，張遼武藝不在關(guān)羽之下，戰(zhàn)張郃五十余合，斬蔣奇，斬蹋頓，伏殺太史慈，大敗孫權(quán)，最終被此將射死。
張遼最早是呂布部將，關(guān)羽贊其勇，稱他的武藝“不在我之下”。后來呂布戰(zhàn)敗被部將綁到曹操面前，張遼也被俘。呂布被勒死，張遼大罵曹操，曹操欲殺，劉備、關(guān)羽為張遼求情，曹操將張遼待為上賓，張遼于是降曹。
曹操在下邳城外的土山上包圍關(guān)羽，張遼勸關(guān)羽暫時降曹。后關(guān)羽過五關(guān)斬六將尋劉備，過了黃河，夏侯惇追殺，張遼阻止，讓夏侯惇放行。在官渡之戰(zhàn)中，張遼大戰(zhàn)張郃五十多回合不分勝負，又?jǐn)厥Y奇，大敗袁尚、沮鵠。后又率許褚、于禁、徐晃迎擊烏桓軍，親斬烏桓單于蹋頓。
赤壁之戰(zhàn)時，張遼親載小舟渡曹操脫險，并射傷黃蓋。赤壁戰(zhàn)后，曹操命張遼為主將，引李典、樂進等守合肥，以御孫權(quán)。孫權(quán)親臨合肥，與張遼多次交戰(zhàn)，未能獲勝。太史慈派吳兵混入魏軍城中，想里應(yīng)外合破曹軍，張遼將計就計引太史慈入城，結(jié)果太史慈中埋伏傷亡。
后來，孫權(quán)乘曹操遠在漢中之機，再次引軍進攻合肥，張遼接曹操密令，靈活調(diào)動軍隊，大敗孫權(quán)。張遼隨曹丕以大船征伐江東，軍隊被徐盛所擊敗。曹丕登岸逃亡時，吳將丁奉從岸邊殺至，張遼為保護曹丕迎敵，被丁奉一箭中腰，回營后不治身亡。
