可惜，刘备在和贼兵的战斗中吃了败仗，没办法，只好跑去投奔中郎将公孙瓒。公孙瓒觉得刘备是个人才，就上表朝廷，封刘备为别部司马，还让他和青州刺史田楷一起去抵挡冀州牧袁绍。刘备打仗确实有一套，立下不少战功，朝廷就让他代理平原县县令，后来又兼任平原国相。
平原郡有个叫刘平的人，一直看不起刘备，觉得在他手下做事是件丢脸的事儿，就花钱雇了个刺客，想把刘备干掉。没想到，刺客到了刘备那儿，刘备压根不知道这人是来杀自己的，还特别热情地招待他。刺客被刘备的真诚打动了，实在不忍心下手，最后不仅没杀刘备，还把刘平的阴谋告诉了他，然后转身离开了。从这件事儿就能看出来，刘备是真的很得人心。《魏书》里也说，当时老百姓日子过得苦，到处闹饥荒，还有人聚在一起抢劫。刘备一方面带着人抵御外敌，另一方面想尽办法让老百姓过上好日子，就算是地位低下的人，他也会和人家坐在同一张席子上吃饭，一点架子都没有。所以，越来越多的人愿意跟着他。
袁绍攻打公孙瓒的时候，刘备和田楷带着军队向东驻扎在齐国。这时候，曹操去攻打徐州，徐州牧陶谦赶紧派人向田楷求救。田楷就带着刘备一起去救徐州。当时，刘备自己有一千多士兵，还有从幽州招来的乌丸杂胡骑兵，路上又收编了几千饥民。到了徐州，陶谦觉得刘备靠谱，又给了他四千丹杨兵。这下，刘备就离开田楷，投奔了陶谦。陶谦还上表朝廷，封刘备为豫州刺史，让他驻扎在小沛。
后来，陶谦病重，他把别驾麋竺叫到跟前，拉着他的手说：“除了刘备，没人能守住徐州！” 陶谦死后，麋竺带着徐州的老百姓来迎接刘备，想让他当徐州牧。刘备一开始还不敢答应，觉得自己担不起这个重任。下邳的陈登就劝他说：“现在汉朝一天不如一天，天下大乱，正是建功立业的好时候。徐州这块地方又富裕，人口有上百万，我们真心希望您能来管理徐州。” 刘备还是推辞，说：“袁公路（袁术）就在寿春，他家四代人出了五个三公，天下人都很敬重他，你们不如把徐州交给他。” 陈登着急地说：“袁术这人骄横狂妄，根本不是能平定乱世的人。现在我们愿意给您凑十万步兵和骑兵，往大了说，您可以匡扶汉室、拯救百姓，成就五霸那样的大业；往小了说，也能守住徐州这块地盘，把功劳写进史书里。要是您不答应，我们也不能听您的！” 北海相孔融也劝刘备：“袁术哪里是什么忧国忧民的人！他就是个冢中枯骨，根本不值得一提。现在这机会，是老天爷给的，老百姓也支持您，要是不抓住，以后肯定后悔！” 刘备这才答应下来，接管了徐州。
《献帝春秋》里记载，陈登他们还派人给袁绍送信说：“徐州这儿遭了灾，州牧也去世了，老百姓没了主心骨，我们担心那些心怀不轨的人趁机捣乱，给您添麻烦，所以一起推举原来的平原相刘备做徐州之主，让老百姓有个依靠。现在到处都是战乱，我们抽不开身，特意派手下人来向您报告。” 袁绍回信说：“刘玄德这人很有风度，又讲信义，徐州的人愿意拥护他，我也觉得挺好。”