兴平二年（195）正月，曹操击败侵入定陶（今山东定陶西北）的吕布军。五月，曹操向驻军巨野（今山东巨野东北）的吕布部将薛兰、李封发动攻击，吕布亲自援救，被曹操击败，撤退而走。曹操歼灭巨野守军，斩薛兰、李封，乘胜进驻乘氏（今山东巨野西南）。

此时，徐州牧陶谦已死，曹操获悉后，打算趁机夺取徐州，再回军消灭吕布。荀彧劝阻说：“昔高祖保关中，光武据河内，皆深根固本以制天下，进足以胜敌，退足以坚守，故虽有困败而终济大业。将军本以兖州首事，平山东之难，百姓无不归心悦服。且河、济，天下之要地也，今虽残坏，犹易以自保，是亦将军之关中、河内也，不可以不先定。今以破李封、薛兰，若分兵东击陈宫，宫必不敢西顾，以其闲勒兵收熟麦，约食畜谷，一举而布可破也。破布，然后南结扬州，共讨袁术，以临淮、泗。若舍布而东，多留兵则不足用，少留兵则民皆保城，不得樵采。布乘虚寇暴，民心益危，唯鄄城、范、卫可全，其余非己之有，是无兖州也。若徐州不定，将军当安所归乎？且陶谦虽死，徐州未易亡也。彼惩往年之败，将惧而结亲，相为表里。今东方皆以收麦，必坚壁清野以待将军。将军攻之不拔，略之无获，不出十日，则十万之众未战而自困耳。前讨徐州，威罚实行，其子弟念父兄之耻，必人自为守，无降心，就能破之，尚不可有也。夫事固有弃此取彼者，以大易小可也，以安易危可也，权一时之势，不患本之不固可也。今三者莫利，愿将军熟虑之。”（《三国志·魏书·荀彧传》）曹操采纳荀彧的意见，放弃进攻徐州的企图。抓紧战机，收割熟麦，储存粮秣，积蓄实力。

不久，曹操以少胜多，大败吕布，吕布连夜弃营撤往徐州。曹操乘胜攻取定陶城，并分别派出部队收复兖州各县，兖州遂平。此战的获胜，对曹操以后统一北方，成就大业，具有重要的意义，荀彧功不可没。

建安元年（196），随曹操击败黄巾军。七月，汉献帝刘协在杨奉、董承等护卫下，从长安（今陕西西安西北）返回洛阳（今河南洛阳东北）。在要不要奉迎天子建都许县的问题上，曹军内部发生了争执。多数人不同意迎接献帝，理由是“山东未平，韩暹、杨奉新将天子到洛阳，北连张杨，未可卒制”（《三国志·魏书·荀彧传》）。

荀彧则对曹操说：“昔晋文公纳周襄王，而诸侯景从；高祖东伐为义帝缟素而天下归心。自天子播越，将军首倡义兵，徒以山东扰乱，未能远赴关右，然犹分遣将帅，蒙险通使，虽御难于外，乃心无不在