曹操军与关羽军遁入河南时，已是三月初九。撤军路上黑山军也曾尝试追击，但见殿后的关羽列阵严整，便也放弃了，只是一路尾随西进，看对方穿过阳武、原武，直至荥阳与刘备主力汇合后, 黑山军便与更苍军合军，与汉军在鸿沟水处对峙。
荀彧弃城前，已先遣使向刘备传信，故而刘备早有准备，在管城修建好营垒，并准备了短时间备用的粮秣，在此等待曹操的到来, 但等他亲自见到曹军时，仍是不免惊异。
关羽与他写信时，常说曹操治军严整，士卒肃然，虽不及孙坚，但亦有韩、白之风，可等曹军渡河过来时，他亲眼看到，这些渡河的士卒人人神情沮丧，步履虚浮，将甲胄兵器随意委弃在地上，很快自己也散乱地蹲坐在泥壤上，倒了好一大片，好似他们的魂魄也散落入尘埃里。
徐庶看到这幅景象，对刘备极为严肃地说：“明公，虽不知敌军所用何计，但兖人如此颓废声色, 必将影响军心士气。请明公即刻下令，让这些人将兵器拾捡起来，把甲胄穿戴齐整, 若有不从的，都处罚以鞭笞。”
刘备颔首称是，便准备派魏延着手督办此事。不料这时候，他看见一支兖州的甲士行伍，正打着旗帜在兖州人群中穿行，用刀背拍打那些倒下的士卒，大声地呵斥着话语。那些士卒见甲士里为首的军官，露出非常害怕的神态，很快又站起来了，在那军官的指挥下各自站成一排，大约半个时辰后，这些士卒虽然仍旧沮丧，但竟然又大多恢复了秩序，重新在西岸列阵。
刘备对此十分惊奇，便把魏延叫下来，一起上前去问那军官的名字。那军官三十来岁，体量修长, 虽身着一身牛皮甲, 在人群中也如孤松挺立，方脸长髯，相貌极为威严。见大将军前来问话，他握着斫刀立正了回答，说他姓于名禁字文则，是直属于曹操的一名都伯，被曹操委命负责军纪。
于禁回答得不卑不亢，见刘备无事后，便又去军中巡查，没有流露出丝毫自豪或懈怠的神情。刘备便派人打听他的作为，原来于禁为曹操任命后，无论犯法者为谁，皆严行军法，所杀犯禁者过百，自此士卒不敢有不从者。
刘备对此大为赞叹，对一旁的张飞说：“孟德帐下有如此人才，可见其确实治军有方啊。”
一旁的谏议从事法正听到了，忽然说：“明公，即使帐下有如此酷吏，可曹公军中却仍是军纪懈怠之状，可见此次受挫之深。当务之急，是要整顿兖人士气，否则之后战事，兖人不堪一用，则为祸大矣。”
此言正说中刘备心中所想，他诧异地看了法正一眼，随后拍着马颈笑道：“孝直说得很好啊！但是这毕竟是孟德的兵卒，我们还要先见过他才是。”
过了大约一个时辰，刘备终于又见到曹操，时隔多年再见，刘备几乎认不出他了，几年的军旅让曹操变得精干，但丧父的惨剧也让他消沉，加之头风发作，他几日吃不下饭，瘦得极快。刘备看到曹操这幅模样，几乎以为风一吹拂，他就要飘起来了。
刘备正想与老友寒暄几句，孰料曹操抢先说：“大将军，操身为一州刺史，受朝廷守土之责，却屡屡亡师丧土，如今又弃城求存，所谓百罪莫赎，正是如此了。为明是非顺逆，还请大将军责罚，免去曹操之职，另择贤明。”
这言语过于生份，以至于刘备皱眉不语，良久才说：“孟德这说得是哪里话，兖州虽失，非君之过。但你尽心竭力，众所周知，云长也常与我来信提及，如今大战才开，正是国家用武之时，岂能临阵换将？”
曹操仍要请辞，刘备又按住他的肩膀说：“孟德毋须多言，君家之事，我已知晓，国家岂能让忠臣寒心？我已传书朝中，以君为兖州牧，还望孟德勿要推辞。”
曹操仍旧推辞，还是荀彧陈宫等幕僚过来，齐声劝说道：“兖州上下，无不视明公如父母，兖州百姓尚在釜中，明公便要弃之而去吗？”