《三国演义》中，诸葛亮“舌战群儒”是浓墨重彩的一笔。按照这个故事，诸葛亮到达柴桑后，见到张昭等二十多位江东谋士，凭借极佳的辩才将众人怼得哑口无言。
不过，据史书记载，张昭确实反对抗击曹操，属于“投降派”,但他只在孙权面前表达过观点，而没有就此与诸葛亮展开正面交锋。与诸葛亮有过“舌战”的，只有孙权。据《三国志》等书记载，诸葛亮一到柴桑就去见了孙权，没有太多客套和试探，直接对孙权说：“天下大乱，将军起兵于江东，刘备拥兵于汉南，都与曹操并争天下。
现在曹操占领荆州，威震四海。根据眼下的局势，将军只有两条出路，如果能以吴、越之众与曹操抗衡，不如早下决心；如果不能，何不向曹操投降？”孙权听了有些不爽，间：“如果真如先生所说，刘备为什么不投降？”看到孙权急了，诸葛亮不慌不忙地说：“刘备是王室之冑，英才盖世，众土仰慕。
如果成不了大事，那是他命运不济，怎么能干投降的事？”孙权一听大怒，这不是小瞧人吗？刘备是英雄，我难道就不是英雄？便说：“我不能举全吴之地、10万之众而受制于人。不是只有刘备能抵挡曹操，如果他失败了，还有我！诸葛亮要的就是这个，于是趁热打铁，说：“刘备虽然败于长坂坡，但手下人马加上关羽统率的水军还有万人之多，刘琦所率的江夏郡人马也不下万人。曹军远道而来，所谓‘强弩之末势不能穿鲁缟’。
而且北方人不习水战，荆州投降过去的军民又未必心服。将军如果能命猛将统兵数万，与刘备同心协力，必能打败曹操！”孙权听了大悦，于是定下孙刘结盟以对抗曹操的战略，这是史书对诸葛亮“舌战”的唯一记载。至于张昭，他的确与诸葛亮有过接触，但人的关系并不像大家印象中的那样一见面就剑拔弩张，反而比较融洽，张昭对诸葛亮的印象也非常好。
张昭比诸葛亮大25岁，早已名满天下，在江东的地位也非常显要。在张昭的眼里，诸葛亮只是一名青年才俊，而不是自己争辩的对手。因为欣赏诸葛亮的才华，张昭特意把他推荐给孙权，希望他跳槽到东吴，但诸葛亮拒绝了这番好意。有朋友不解，诸葛亮解释说：“孙权算是好领导，然而据我观察，他能重用我，却未必能让我尽情地施展才华，所以还是算了。”
而张昭之所以看中诸葛亮，除了他过人的才能，还缘于二人的特殊关系。诸葛亮十多岁时随叔父离开家乡，就此与兄长诸葛瑾分手。诸葛瑾为避战乱，之后南下江东，一开始境况不太好，后来结识了孙权的姐夫弘咨。
弘咨很欣赏诸葛瑾，就把他推荐给孙权，正值用人之际的孙权将他任命为长史，相当于秘书长。诸葛瑾到江东后与张昭的关系逐渐密切，他们的祖籍都在徐州刺史部，也都是从江北南下避难来的，出身和际遇相同，大概更容易交流和理解。张昭的儿子还娶了诸葛瑾的女儿，如此诸葛亮与张的联系就更紧密了。
