张角领导的黄巾军被剿灭之后，青州黄巾又起。曹操在百日之内，击败黄巾军，招降了三十多万人，挑选其中的精锐编成“青州兵”。从此，曹操声名远扬，威镇山东。
他派人去接父亲曹嵩到兖州，共享天伦之乐。在路过徐州的时候，太守陶谦盛情款待了两天，并派都尉张闿护送。哪知张闿见财起意，杀死曹嵩一家，取了财物，逃奔淮南去了。曹操得到这个消息，率领大军杀奔徐州，发誓要杀死陶谦，为父报仇。
陶谦，字恭祖，为人谦和厚道，是远近闻名的仁人君子。他敌不过曹操，派糜竺和陈登分别前往孔融和田楷那里搬兵求救，自己率众固守城池。孔融担心自己势单力孤，邀请刘备一同前往。刘备向公孙瓒借了两千人马和大将赵云，往徐州而来。他们到达徐州的时候，孔融、田楷两路人马已经到了，但惧怕曹兵势猛，不敢轻进。曹操也分兵防守，不敢贸然攻城。
刘备来见孔融，说：“这样僵持下去不是办法，恐怕城中缺粮，难以坚持。我命令关羽、赵云领兵四千，在大人帐下听用。我和张飞杀入徐州，去见陶使君，商议退兵之策。”
孔融大喜，会合田楷，成犄角之势，关羽、赵云领兵两边接应。第二天，刘备和张飞率领一千人马，杀入曹兵营寨。寨内一声鼓响，涌出一队人马，当头一员大将，是于禁。于禁勒马大叫：“大胆狂徒！往哪里走？”
张飞见了，也不答话，挺矛直取于禁。两马相交，战了几个合，刘备挥动双股剑率兵直冲过来，于禁败走。张飞一马当先，一直追到徐州城下。城上望见一支人马赶到，当先一面红旗，上写“平原刘玄德”五个白字。陶谦急忙下令打开城门，迎接刘备入城。刘备来到府衙，陶谦设宴款待。见刘备仪表不俗，语言豁达，陶谦心中大喜。他叫糜竺取过徐州的令牌和印信，让给玄德。
刘备惊愕地说：“使君这是什么意思？”
陶谦说：“当今天下纷乱，朝纲不振。玄德公是汉室宗亲，正应该扶保社稷。老夫年迈无能，情愿把徐州让给玄德公，望玄德公不要推辞。我自会书写表文，上奏朝廷。”
刘备离开座位，躬身拜谢道：“刘备虽然是汉朝后裔，但功微德薄，当一个平原相还担心不称职。这次为了大义，所以前来相助。使君说出这样的话，莫非是怀疑刘备有吞并之心吗？我如果有这种念头，皇天不佑！”
陶谦说：“玄德公误会了，我说的都是实情啊。”再三相让，刘备只是不肯接受。糜竺建议道：“现在曹操兵临城下，还是应当先商议退敌之策为好。等这件事解决以后，再说相让的事吧。”
刘备说：“我给曹操写一封书信，劝他和解。如果他不听，再厮杀也不迟。”曹操正在军中和众将议事，接到刘备的书信。他看完之后，大骂道：“刘备是什么东西，胆敢写信来劝我？”他正要下令攻城，忽然流星探马来报，说吕布袭破兖州，占领了濮阳！
原来，吕布杀了董卓以后，董卓的部将李傕、郭汜起兵造反，打败吕布，把持了朝政。吕布逃出武关，先后投奔袁术、袁绍和张扬等人，都不能相容。最后还是陈留太守张邈听了陈宫的话，收留了他。他让吕布趁着曹操东征，带兵袭取了兖州，占领了濮阳。
曹操听到军报，大惊道：“兖州丢了，我就无家可归啦！”
郭嘉说：“主公正好卖个人情给刘备，退军去收复兖州。”
曹点头答应，写了一封回信给刘备，拔寨退兵了。信使回到徐州，把曹操的回信交给陶谦，并报告了曹兵已经撤退的消息。陶谦大喜，派人把孔融、田楷、关羽和赵云接到城里一同饮宴。
宴会后，陶谦把刘备请到上座，拱手对众人说：“老夫年纪大了，两个儿子都不成器，不能担当国家重任。玄德公是帝室之胄，德广才高，可为徐州太守，老夫也情愿偷闲养病。”
刘备说：“孔融让我来救徐州，是为了大义。如果现在无端据有徐州，天下的人就把刘备看作是无义之人了。”陶谦再三推让，众人都劝刘备接受，刘备就是不接受。
最后，陶谦只好说：“既然玄德公坚决不肯答应，这附近有座小城，名叫小沛，完全可以驻军。请玄德公暂且在小沛驻军，保护徐州，怎么样？”众人都劝刘备留在小沛，刘备答应了。陶谦劳军过后，孔融、田楷各自率军回去了。赵云也来辞行，刘备握着他的手，洒泪而别。刘备和关羽、张飞率领本部兵马来到小沛，修葺城墙，安抚百姓。
不久，陶谦身染重病，把糜竺、陈登请来议事。糜竺说：“曹操退兵，是由于吕布袭取了兖州。现在是岁荒年终，明年春天说不定又来了。府君两次想把太守之位让给刘玄德，当时府君的身体还算康健，所以玄德不肯接受。现在您的病已经很重了，如果借这个机会让给他，玄德一定不会推辞了。”
陶谦派人到小沛，请刘备前来商议军务。刘备带着关、张二人和几十名随从来到徐州。陶谦把他请进卧室，说：“我请玄德公来，不为别的事。只因为老夫已病入膏肓，朝夕难保。万望明公以汉家城池为重，接受徐州的令牌和印信，老夫死也瞑目了！”
刘备说：“使君有两个儿子，为什么不传给他们呢？”
陶谦说：“我的长子陶商，次子陶应，才能都不堪重任。老夫死后，还望明公多教诲他们，千万不要让他们接掌州事。”
刘备说：“我一个人怎么能当此大任呢？”
陶谦说：“我推举一个人辅佐明公。他姓孙，名乾，字公祐，可以让他担任从事。”接着又对糜竺说：“刘公是当世的豪杰，你要好好跟着他做事。”
刘备还是一个劲儿地推辞。陶谦说不出话来，用手指着心口，咽气了。府衙中的官员致哀之后，捧着令牌和印信交给刘备，刘备还是坚决不接受。
第二天，徐州的百姓都挤在府前哭拜说：“刘使君如果不领徐州，我们就都不能安生啦！”关、张二人也再三相劝。刘备这才勉强答应暂领徐州事务，一面出榜安民，一面安排丧事。刘备和全州军士都挂孝祭奠，把陶谦埋葬在黄河岸边，同时把陶谦的遗表申奏朝廷。
