谦退守郯县，不敢出战。
不久，曹操军粮将尽，撤围回军。
兴平元年（194年）春天，曹操回到兖州。
当初，曹操的父亲曹嵩和弟弟曹德在前来曹操处途中，被陶谦派兵杀害，因此曹操志在东征。
夏季，曹操再征徐州，攻破五城，略地至东海，回军在郯县击破刘备、曹豹，又攻破襄贲，所过之处多所残戮。
东郡守备陈宫对曹操不满，于是与陈留太守张邈、张邈之弟张超、从事中郎许汜及王楷等同谋叛乱，迎吕布为兖州牧。
当时，只有鄄城和东郡的范县、东阿两县尚在曹操掌握之中，分别由司马荀彧和寿张县令程昱、东郡太守夏侯惇等坚守，形势异常危急。
曹操从徐州赶回，听说吕布屯于濮阳，遂进军围攻濮阳。
二军相持百余日，蝗灾大起，双方停战，曹操军还鄄城。
此时，曹操失去了兖州，军粮已尽。
袁绍派人来劝说，想让曹操投靠他，让曹操举家迁到邺县当人质。
曹操本打算答应，但被程昱劝阻。
十月，曹操到达东阿。
兴平二年（195年）春，曹操袭击定陶，济阴太守吴资保守南城，曹操攻之不下。
吕布率军前来，曹操将他击败。
夏季，曹操攻击巨野，吕布率军救援巨野。
曹操击破吕布军，斩杀屯驻巨野的薛兰等人，吕布会合陈宫率领一万多人从东缗赶来。
此时，曹操士兵大多数都外出收麦了，留下的不足一千，营垒也不坚固。
曹操命妇人守于城上，士兵拒守吕布。
营垒西边有一条大堤，南边是幽深的树林，吕布怀疑曹操有埋伏，对部下说：“曹操诡计多端，切勿进了他的埋伏。”
于是，率兵驻扎在曹操营垒南边十多里的地方。
次日，吕布再次前来，曹操令一半士兵藏于堤坝之内，一半在外诱敌。
吕布进军，曹操派轻兵挑战。
双方交战后，曹操的伏兵出动，步骑并进。
吕布大败，鼓车被曹操缴获，曹操一直追到吕布军营才返回。
吕布连夜逃走，曹操追击，又攻克定陶，分兵平定诸县。
吕布前往徐州投奔刘备，张邈与吕布同行，留张超驻守雍丘。
七月，因关中李傕、郭汜的火拼，汉献帝从长安东归。
八月，曹操围攻张超于雍丘