曹操逃出城外后直奔谯郡。路经中牟县时被守关军士抓获并带到县令面前。曹操谎称自己是客商皇甫嵩，但县令认出了他就是曹操并把他关进监狱准备第二天解送京师请赏。然而到了半夜县令却悄悄放出曹操并询问他为何要自取其祸。曹操回答说他报国无门才屈身侍奉董卓并寻找机会为国除害，现在事情败露是天意所归。县令听后非常敬佩并亲自为他解绑扶他上坐询问他接下来的打算，曹操表示要发矫诏召集天下诸侯共同讨伐董卓。县令听后更是感动并决定弃官跟随曹操一起逃亡，并告知曹操自己名叫陈宫字公台，有老母妻子在东郡。两人于是收拾行李各背一口剑乘马奔向曹操的故乡。
两人行了三日，来到成皋地方，天色已晚。曹操指着林深处对陈宫说：“这里有一个人姓吕，名伯奢，是我父亲的结义兄弟，我们可以去他家问问家中消息，顺便在那里借宿一晚，如何？”陈宫说：“很好。”于是两人下马，来到吕伯奢的庄前，进去见到了他。
吕伯奢说：“我听说朝廷正在到处发文书捉拿你，你父亲已经去陈留避难了。你怎么会来到这里？”曹操告诉了他之前的事情，并说：“如果不是陈县令，我已经粉身碎骨了。”吕伯奢向陈宫拜谢说：“如果不是您，曹氏一家就要灭门了。请您宽心在这里安坐，今晚就可以在我家草舍中下榻。”说完，就起身进入内室。
过了好一会儿，吕伯奢才出来，对陈宫说：“我家没有好酒，让我去西村买一樽来款待你们。”说完，匆匆骑上驴就走了。曹操和陈宫坐了很久，忽然听到庄后有磨刀的声音。曹操说：“吕伯奢不是我的至亲，这次去有点可疑，我们应该去偷听一下。”
两人于是潜入草堂后面，只听到有人说：“绑起来杀了，怎么样？”曹操说：“对了！现在如果不先下手，我们一定会被擒获。”于是两人拔剑直接进入庄内，不问男女老幼，全部杀死，一共杀了八口人。搜到厨房时，却发现那里绑着一头猪正准备杀。陈宫说：“孟德你太多心了，误杀了好人！”两人急忙出庄上马逃跑。
跑了不到二里路，就看见吕伯奢骑着驴，驴鞍前挂着两瓶酒，手里还拿着果菜回来。他叫道：“贤侄和使君为什么要走？”曹操说：“我们是被罪之人，不敢久留。”吕伯奢说：“我已经吩咐家人杀一头猪来款待你们，贤侄、使君为什么不多留一晚呢？请快点回来吧。”曹操却不理他，继续策马前行。走了几步之后，他突然拔剑回头向吕伯奢砍去，把他砍死在驴下。
陈宫大惊失色地问道：“刚才我们已经误杀了他家人，现在为什么还要杀他？”曹操说：“吕伯奢回到家后看到我们杀死了那么多人怎么可能会善罢甘休？如果他带领众人来追赶我们那我们就必遭其祸了。”陈宫说：“你明知故杀这是大不义啊！”曹操却说：“宁可我辜负天下的人也不能让天下的人辜负我。”陈宫听了之后默然无语。
当天晚上两人又走了数里路在月光下敲开了一家客店的门投宿。喂饱了马之后曹操先睡了。陈宫躺在床上翻来覆去地睡不着心里想：“我本来以为曹操是个好人所以才弃官跟他一起逃亡没想到他竟然是个狼心狗肺之徒！如果今天留下他日后必定会成为后患。”于是他便想拔剑来杀曹操。