李经述得到情报，西乡从道和川上操六为了筹备这次战争，在日本征兵三万，俄国派了一万兵，他们的陆军装备不比新式淮军差，于是发电报给李鸿章，说八千淮军不够，请求国内支援。李鸿章收到李经述的电报，再次派淮军老将叶志超从国内调兵两万，火速支援李经述。年过半百的叶志超早在1862年淮军刚组建时就跟着李鸿章了，在剿灭太平军和捻军时战功赫赫，此前朝鲜政变，他曾率军进入朝鲜，熟悉汉城。
叶志超得令，带着大同镇总兵卫汝贵、高州镇总兵左宝贵、毅军总兵马玉昆、侍卫丰升阿等率军二十九营，共计二万余人由东北陆路入朝，火速到达朝鲜，驻防汉城外的牙山。
李经述见叶志超不到一周就开到了汉城，大喜，马上让袁世凯通知叶志超，让他带兵进驻汉城，以保护朝鲜王室为由，控制景福宫，只要能将朝鲜国王李熙和闵妃控制在手里，一旦段祺瑞平息东学党的叛乱，他就可以名正言顺地让朝鲜国王下诏，请日本和俄国退兵。而且叶志超率军进汉城，还可以保护各国驻朝使馆和侨民，一箭双雕。
叶志超这个人，向来狂傲自负，他是淮军的创业老将，此时年过半百，担任直隶提督，武职从一品官员，但负责拱卫京师，是李鸿章的爱将，他觉得自己的官衔比李经述要高半级，加上他年纪比李经述大得多，战功也显赫，这次李鸿章让叶志超听从李经述的调度指挥，叶志超觉得很憋屈，不把李经述放在眼里，虽然他也知道进驻汉城控制朝鲜王宫的战略意义，但因为这主意是李经述出的，袁世凯三番五次催促他，叶志超竟然置之不理，屯兵汉城外的牙山，既不派兵南下帮忙剿灭东学教乱党，也不进驻汉城，每日与诸将置酒高会，日日笙歌。
李经述一看叶志超按兵不动，为了不影响大局，便告知叶志超负责牵制日本驻朝公使大鸟圭介的五千日军，自己带八千淮军进入汉城，马上派军保护各国使馆，还控制了朝鲜王宫，让李熙下诏，明确拒绝日本出兵；另外，让他发布《罪己诏》：当前朝鲜混乱的局面，都是由于国王的失德和官吏渎职腐败造成，朝廷将承诺改革，满足乱民提出的部分要求，包括停止迫害东学教徒，自愿回乡者既往不咎；查明贪官污吏，一律严惩；改善起种贱民的待遇；不强制白丁戴平壤斗笠；允许青年寡。妇再嫁；废除一切扰民的苛捐杂税。
这些改革措施，都是李经述根据唐绍仪的报告有针对性地提出的，朝鲜国王的《罪己诏》发布后，朝鲜南方民心大稳。段祺瑞本来在北洋军官学校就表现优异，又以官费入柏林军校，学习一年炮兵，在著名的埃森克虏伯兵工厂实习了半年，此时指挥炮军作战，如鱼得水，不到半个月就收复了忠清道、庆尚道，轰死打死日本浪人六百多人，还派兵包围了全州府。
内田良平一看这段老虎比唐绍仪凶狠何止百倍，加上制造暴乱让日本出兵的任务已经完成，于是赶紧带着浪人撤了，剩下的东学教徒，都是一些衣衫褴褛的农民，朝鲜朝廷一说既往不咎，他们带着锄头就回家了，东学乱党很快溃散，崔海月最后带两千教民开城门投降，暴乱基本平息。
正当李经述觉得大局已定，汉城外传来一阵轰隆隆的炮响，叶志超的两万淮军和日本驻朝公使大鸟圭介带领的五千日军打起来了。
当时中日两军阵地很近，牙山地势较低，日本人积极备战，早修筑了炮台，九门重炮居高临下，占据炮火优势，一阵乱轰。叶志超根本就没想到大鸟圭介这文弱公使，就敢凭五千日军单挑他两万淮军，每日照常醉酒笙歌，炮声一响，仓促备战。
叶志超靠着李鸿章，带领的淮军经过十来年的休养生息，战斗力大大下降。面对日本人的炮轰，叶志超异想天开，竟然派两千骑兵杀出，企图闪电夺取日本人的阵地。大鸟圭介惊讶之余，命令日军集中炮火攻击，淮军的骑兵跑到半路，就被炸上了天，可怜淮军骑兵死伤一千二百多人，锐气尽失。
淮军骑兵大败，日军反而士气高昂，继续发射杀伤力比较强的榴霰弹，这种炮弹弹壁薄，内装火药及小钢珠或钢箭、钢珠，弹头装有定时引信，能在预定目标上空爆炸，杀伤敌方。
高州镇总兵左宝贵不懂这新式武器，大鸟圭介亲手发射了一发定时的榴霰弹打到他的身边，刚开始没有爆炸，他竟然毫不知情，继续指挥火炮发射，还击日军。结果，榴霰弹过了一会爆炸，弹片击中的左宝贵的右眼，他伤重殉国。
如果叶志超能带领淮军坚守阵地，李经述带着城里的淮军杀出，内外夹击，日军肯定大败。但左宝贵一死，叶志超面对日军强大的火力，心理防线竟然奔溃，带一万多名兵狂逃一百多里，退守平安府。
当时，天空下着大雨，叶志超带着残兵败将，恐日军截杀，不敢走大路，光挑荆棘密布的羊肠小路，很多士兵的军服和脸都被荆棘所破，惨不仍睹。日军一路追杀，淮军死伤六千余人，而日方只损失两百人。
李经述带五千淮军出汉城，叶志超早已逃之夭夭，王士珍一看叶志超驻防的牙山，对李经述说：“此处地势低洼，孤险无援，叶志超竟然在此驻兵，真是没用兵常识，天下第一等蠢材，难怪会大败！”
李经述默然不语，为了避免更大的伤亡，他决定立即接管叶志超的淮军，于是带兵连夜赶往平安府，叶志超竟然给李鸿章发电报，谎报军情，说牙山一仗，淮军大捷，淮军死伤二百，日军伤亡两千！
李经述收到消息，强压住内心的怒火，把叶志超和一些淮军将领请来营帐中议事，叶志超到了之后，李经述马上命袁世凯带亲兵把叶志超五花大绑，叶志超反抗，大叫：“老子也是提督，你凭什么抓我？老子跟中堂大人打仗时，你还光着屁股呢！”
李经述听了面色突变，拔出袁世凯送的匕首，众将以为李经述要杀叶志超，一半默然不语，也有将领站出来替叶志超求情：“提督大人，大敌当前，杀大将恐会乱军心！”
叶志超长期习武，体格非常健壮，长着稀疏的胡子，脖子圆滚粗胖，脑袋后面拖着一条粗壮的辫子。袁世凯带着两个亲兵，费了九牛二虎之力才把他按倒在地。
李经述拿刀上前，怒斥叶志超：“我全权指挥在朝军队，你不听军令不入汉城在先；两万淮军对付五千日本陆军，竟然不到两个时辰就溃逃，贻误军机，导致淮军伤亡惨重；兵败之后，竟然还谎报军情，还有，中堂大人每年拨付给你的军费，一年少说也有几十万两，你去营地看看，你的兵，连一双像样的鞋都没有，他们打仗时穿草鞋，平日则赤脚，士兵们五年没发新军装，只在胸前和背后缝上‘兵’的大布块！你自己却天天酒宴笙歌！这样带兵，打起仗来能不溃不成军吗？刚开始不惩罚你是怕动摇军心，今日若不严惩你，莫说死去的几千兄弟们不答应，你的兵都不答应！”
说完，李经述抓起叶志超又黑又粗的辫子，一刀割掉，这在当时，等同于“杀头”，李经述道：“今日两军对阵，我姑且念你跟随中堂大人多年，暂且饶你不死，收押入狱！”
叶志超本来就贪污军饷，飞扬跋扈，李经述逮捕了叶志超，大快人心，众将惊愕，对李经述大为信服。李经述收编了剩下的一万多名淮军，整编成二十营，多派北洋军官学校出身的军官指挥，和自带的五千淮军一起，迅速回攻汉城外大鸟圭介带领的日军。