陈王派出的第三路军在武臣的率领下北上，百姓应者云集，大军来到濮阳，这里是东郡的郡府。郡守听说义军到来，即刻引军出战。两阵对圆。武臣拍马而出，举鞭怒吼：“秦奴，我们是楚国的兵马，现在来收取土地，快快献城！”郡守大怒道：“大胆的刁民，造反是要灭族的，你可知道？”武臣笑道：“知道，知道，怕死就不造反了。如今陈王已经在陈郡即位，建国号为张楚，倡导天下反秦。大人如果识时务，就响应楚国，今后也不会失去封侯拜将的机会！”郡守骂道：“村夫！大秦国是你们能灭得了吗？快快投降，饶你们不死，若再叫嚣，定叫你们脑袋搬家！”武臣见郡守态度坚决，就对着本阵道：“你们谁敢挑战？”张耳想让陈余立头功，便使了个眼色。陈余心领神会，将马一拍，驰出了本阵。秦军阵里也窜出一员勇将，那人手持长矛，嗷嗷直叫。两人打马向前，用惯性冲锋，两马相交，戈矛并举，火星迸溅。二人鼓足勇气，战了十几个回合，陈余一戈刺秦将于马下。郡守大惊，慌忙退入城中，升起了吊桥。义军于是沿着护城河扎营，围城攻打，又用发射器向城中发送石头、火炮，发起了猛烈地进攻。
十几天后，郡守害怕了，便聚众道：“贼势凶猛，怕是不能坚守。”郡丞道：“我们不抵抗，按照秦律是要灭门的。若是抵抗，被叛军抓到也会杀掉。横竖都是死，不如拼死抵抗，等待援兵！”郡守道：“就怕坚持不了多久。”又死死地守了几天，秦军终于抵挡不住了。郡丞献计道：“今晚将全城的百姓集合起来装扮成军士，天黑时就假装出去投降，百姓走在前面，军士跟在后面。等到了叛军的大营时，就让军士突然发起进攻。武臣一定没有防备，定可大获全胜，这叫‘攻其不备’。若是杀了武臣，贼众必然溃散。”郡守就按照计策执行。
这天黄昏，郡守就令秦军在城头上竖起了降旗。武臣闻报，率众来到城下。只见有人在城头上喊话：“城中的军士伤亡过半，已经无法再战，愿意投降！”武臣道：“是真是假？”回答说：“我们即刻出城缴械，不会有假，况且听说山东之人都起来造反了，我们再抵抗也没有意义了。”武臣笑道：“这样说来，郡守还算有眼光。”就对着城上大声道：“你们不许使诈，若是耍什么花招，城破之后全部坑杀！”城上的秦军就回答：“我们诚心投降，决不使诈。”武臣大喜，就令军队停止攻城。时间不大，秦军果然打开了城门，先有官员出来递交了降书，道：“郡守请求将军一定要善待他的家人。”武臣答应了。秦使走后，张耳对武臣道：“郡守几天前都十分嚣张，现在突然投降，恐怕有诈。”武臣道：“他们原先想顽抗，现在见我军如此强攻，又无援军，因此才决定投降，这是情理中的事情。”张耳道：“虽然如此，还是谨慎一点。”武臣就叫过来了护军邵骚和陈余二人，让他们各带一支人马埋伏在军营的两边，以防不测。
这时，只见城门里走出了一个人，他敲着锣大声宣布道：“秦军全体投降，现在出城缴械，然后请武大将军入城接管事务！”紧接着前面就走出了一队军士，他们有的举着火把，有的拿着兵器，队伍参差不齐，都耷拉着脑袋一齐来到营前缴械。不一会儿，兵器就堆成了一座小山。百姓缴完械，秦军就走了出来，当他们来到营前的时候，城门里突然冲出了一将，挥舞长戟大叫：“我是郡尉，随我杀贼啊！”秦军听到命令，都挺起兵器突然间杀向了义军的大营。武臣早有预防，就将旗子一招，忽听战鼓齐擂，军营的两边喊声大起，邵骚和陈余一齐领军杀来，把秦军团团围住。
双方就此混战一场，秦军惨败，郡尉从来没有打过仗了，却被陈余和邵骚合而击杀于马下。武臣和张耳等人就率领大队越过了护城河，向城中冲去。郡守听说叛军入城，就出北门逃走了。张耳经常出没在这里，对河北的路径确实很熟悉，杀到府衙，找不见郡守，