三国演义中，曹操攻破吕布最后的据点下邳城，擒获吕布、陈宫、高顺、张辽、臧霸等，吕布随即被缢死，陈宫、高顺拒绝投降被杀，张辽、臧霸投降曹操。
张辽归顺后，随曹操东征西讨，200年，袁绍派颜良围白马，曹操命张辽关羽为前锋，击败袁军，解白马之围。201年，单枪匹马，劝降反叛的昌豨。204年，击败袁尚，攻破邺城。207年，于柳城大破乌桓，阵斩单于蹋顿。209年，讨平作乱的梅成、陈兰。215年，张辽与李典、乐进率七千余人守合肥，孙权十万大军来袭，张辽率八百人直冲孙权中军，斩吴将陈武，孙权逃到山上自保；十余日后孙权撤军，张辽乘机追杀，在逍遥津大破吴军，几乎活捉孙权，从此江东小儿听到张辽的名字不敢啼哭。222年，张辽抱病与曹休守海陵，孙权听说后对部下说道“张辽虽病，不可当也，慎之！”，不久张辽与诸将击败来犯的吴将吕范。不久以后就病逝了。
张辽一生战功累累，威名赫赫，在曹魏历任中郎将、裨将军、行中坚将军、荡寇将军、征东将军、前将军、内朝官，封晋阳侯，食邑2600户。而同时投降的臧霸，曹丕时封为镇东将军、执金吾，封良成侯，食邑达到了3000户，曹叡时又追加500户，共3500户，和曹仁一样多，位列曹营武将第一，比张辽多了900户！臧霸立过什么功劳，会有这么高的爵位？
臧霸的功劳还是不小的，206年，臧霸与于禁讨灭降而复叛的昌豨。209年，张辽围剿陈兰、梅成时，臧霸阻击企图救援的吴军，使张辽顺利取胜。217年，臧霸从讨孙权，率军陷阵，攻入巢湖，破居巢城。222年，臧霸与曹休、张辽讨吕范，臧霸率万人敢死队乘轻船五百袭攻徐陵，烧攻城堑，斩杀数千人。臧霸功劳虽然不少，但与张辽比起来还是颇有不及，臧霸之所以有这么高的地位，因为在魏国，他和其他武将的定位就有本质的不同。
其实臧霸开始并不是吕布手下，而是一方诸侯，手下有孙观、吴敦、尹礼等人，和吕布实际上是联盟关系，吕布败亡后率众归顺曹操，自身势力庞大，三国志《魏书·臧霸传》中一句话说明了臧霸的地位：（曹操）割青徐二州，委之于霸。也就是说臧霸此时还是割据一方的军阀，只是表面上依附于曹操，而且臧霸颇为识趣，曹操击败袁绍势力，占据河北，他便把自己和手下将领的家眷送到邺城做人质，从而获得了曹操的赏识，继续割据青徐。到曹丕受禅称帝后，派曹休来接手青徐二州，臧霸没有反抗，主动交出兵权，以此又获得了曹丕的信任。可以说臧霸的高官厚禄，其实是自己的地盘和兵权换来的。
