于是张辽在当夜募集敢于出城迎战的精锐将士八百人，开剥牛支让将士饱食，准备明日大战。
天色刚亮，张辽被甲持戟，亲自先登上直直陷敌阵，撕裂了东吴军队的防线。
在他率军冲入东吴的中军营垒之前，张辽就已经亲自斩杀了数十名东吴士卒和两名东吴将领。
他一边大声呼喊着自己的名号一边拼杀，冲入东吴的中军营垒，此后，张辽率军继续猛攻，一直冲杀到孙权的主帅旗之下。
孙权见状大惊，孙权身边的众将士也因惊慌失措而不知道该如何应付，于是，孙权等人逃跑到一座较高的山冢上，用长戟来自卫。
张辽见敌方主帅退避，便叱喝孙权，挑衅他下来对战，但孙权没有轻举妄动，随后孙权发现张辽所率领的士兵非常少，于是聚拢东吴军队将张辽的部队重重包围。
张辽在吴军阵中左冲右突，终于打开包围圈，率领部下们突围。
公元216年，曹操再征孙权，到合肥后，曹操循行视察昔日张辽作战的地方，赞叹良久，于是给张辽增兵，多留诸军徙屯居巢。
公元217年，曹操攻濡须口，孙权请降，留夏侯惇、曹仁、张辽等屯居巢。
公元219年，关羽围曹仁于樊城，适时孙权称藩于魏，为了让孙权安心攻打荆州，于是曹操召张辽及诸军悉数回救曹仁。
张辽素来知晓曹操的用意，虽然他收到诏令较晚，但向樊城的进军速度却很快。
而张辽尚未到达，徐晃就已经打败关羽，张辽便与曹操会师摩陂，曹操乘车出来慰劳他，并派他屯于陈郡。
公元220年，曹操去世，曹丕即位魏王，张辽从征东将军平级转任为前将军，分封其兄张汛及一子列侯，同时，赐给张辽的帛多达千匹，谷多达万斛。
不久孙权再叛变，张辽还屯合肥，并进爵都乡侯，曹丕赐舆车予其母以示荣宠，并派兵马送其家人到他驻军的地方，又预先在当地告示张辽家人将要到临，命令所有守军出迎，众军士将吏都列队出候拜迎张辽家人。
看见此景的人均认为这是十分荣耀的事，同年曹丕称帝，再封张辽为晋阳侯，增邑千户，并前二千六百户。
公元221年，张辽到洛阳皇宫朝拜，曹丕便引张辽会晤于建始殿，亲问其昔日破吴时的情状，张辽述说过后，曹丕向左右叹息道：
“简直是古代的召虎啊！”
于是，曹丕下令为张辽建造屋舍，替其母兴建殿室，当年跟从张辽突破吴军阵线、直冲孙权帅旗而临时应募的一众步卒，都被封虎贲。
公元222年，孙权再次向曹魏称臣，张辽奉命还屯雍丘，却在此得病。
曹丕遣侍中刘晔带着太医审视其疾，并令虎贲卫士们往来传达张辽病况，为张辽问病的使者经常在路上互相遇见。
梁章巨《三国志旁证》中提到“汉三公病，遣中黄门问病，魏、晋则黄门郎，尤重者或侍中，张辽位未至公，而遣侍中，盖宠之也。”
可见曹丕如何重视张辽，张辽之疾久未痊愈，曹丕命人把他接到自己的行营，自己则车驾亲临，握着他的手，赐给他御衣，太官每天来送御膳。
病情稍有好转后，张辽便返回其屯军之所驻军，忠于职守，正当其时，孙权再次背叛曹魏，曹丕派张辽乘舟，与曹休到海陵临江驻防。
孙权知张辽至此，甚为忌惮，敕令诸将道：
“张辽虽然抱病，但仍是勇不可当的，千万要谨慎在意！”
同年，张辽与王凌等人进军至广陵，一天夜里，吕范等人的东吴水军漂至北岸。
张辽与王凌等人出战，大破吴将吕范等人，并缴获了大量舟船，但张辽的病情却也日渐严重，最后终于在江都逝世，一代名将就此陨落，曹丕为之流涕，谥曰刚侯，其子张虎嗣任其爵。
“文远将军，我家主公一到荡阴城，没有休息片刻，马不停蹄就来看你了......”
辛弃疾一边嚷嚷着，一边走进大帐之中，张辽闻言赶紧快步走出来迎接。
“公孙将军想见末将，让人前来唤我前去便是，将军旅途劳累，不敢劳烦亲自此处！”
眼见公孙越果然亲临大帐，张辽不由诚惶诚恐，毕竟自己只是声名不显的小将，而公孙越已经是雄据两州的一方大诸侯。
“文远将军，只要是金子总会发光，只要是尖锥总会破袋而出，将军只是缺少一个大平台而已。
若不是有将军前来，汉臣他们也不会赢得这么轻松，据兖州探马来报，吕将军在兖州士人的支持下，诸郡纷纷弃暗投明，如今曹操只剩东阿三县，文远宜速带兵前去助吕将军一臂之力！”
得知兖州的情况之后，张辽即刻命士卒去做准备，这一晚公孙越和张辽彻夜长谈，一直到天明时分才依依惜别。
“文远，若是哪天吕将军那里待不下去了，我这里的大门随时为你敞开，目前三郡未定，实在无力出兵与你们共击曹操。
不过你可以放心，我会立即手书一封，让坐镇聊城的刘玄德和坐镇乐平的徐荣、徐晃二位将军，与你一起从后方威胁东阿。
至于最后能否功成，那就要看你们了，我会在邺县等着你们的好消息，希望你们能击败曹操。”
“公孙将军，如果有一天真在吕将军那里待不下去，您一定会是我的第一选择，告辞！”
目送张辽离去之后，公孙越回到荡阴城内，留辛弃疾为主将，管亥与蒋奇为辅，领幽武卒第一军和虎贲军第一军坐镇荡阴，其余兵马则返回邺县。
眼看魏郡、阳平郡已经被破，广平郡很快也派人请降，公孙越自然满盘接收，派朱灵前往广平郡坐镇。
如此一来魏郡、阳平郡和广平郡全归帐下，冀州11郡总算落到公孙越手中，冀州刺史之位总算名正言顺。
“汉臣，以后就要靠你坐镇魏郡了，总督魏郡、阳平与广平三郡政务和军务，元凯先生也会留在这里助你一臂之力。
魏郡、阳平与广平三郡是进入兖州和并州上党郡的桥头堡，战略位置非常重要，等战事结束之后，将袁军家人送归袁军，换回黎阳重镇。”