升任兵部侍郎

当年秋，兵部侍郎、漕运总督周天爵卒于亳州，诏命袁甲三继任统帅军队。在这之前，周某曾奏报说，蒙城、亳州的捻军，合五十八捻为一大股，设有四大天王等名目，不可急剿。周某死后，袁甲三到亳州的王市集时，兵勇已散，民无斗志。袁甲三急忙召集散兵游勇，整顿团练，凝聚军心，占据要隘，结果在高公庙首战告捷。皇帝下旨命袁甲三接办剿“匪”事宜，加三品衔，署安徽布政使。袁甲三向朝廷上疏推辞说，担任布政使职务后，政务繁杂，无法指挥军队打仗。朝廷认为他的话很有道理，就让他专门办理剿办安徽捻军的事。后来他又在标里铺打了个大胜仗，活捉了捻军首领邓大俊，俘虏捻军二千多人。

这年十月，安庆太平军占领桐城后不久，又攻陷舒城，吕贤基战死。朝廷想让袁甲三移军桐城，袁甲三急忙上疏说：“捻军首领张茂盘踞在怀远、蒙城之间，正想进攻庐州(合肥)，请先驻军蒙城和亳州，声援各州。”

捻军聚集雉河集，袁甲三令县丞徐晓峰击破之，擒捻军首领孙重伦。分兵击败临湖铺窜匪，擒捻军首领宫步云、马九。令游击钱朝举、知县米镇攻怀远，大破之，张茂负伤逃走。

平定太平军

十二月，太平军果然攻陷庐州(合肥)，巡抚江忠源战死。袁甲三上疏弹劾陕甘总督舒兴阿“拥兵坐视”，舒兴阿被免职。

咸丰四年(1854)，袁甲三入据临淮，属安徽剿捻的北路军。不到一年，皖北捻军被他各个击破。朝廷褒奖，破格擢升他为都察院左副都御史。这时他最关心的是庐州收复问题，认为“庐州居江北腹地，又旁陷十余州县……庐州不克，不特江北各路防兵为所牵制，楚师东下亦不能急捣江宁。”但是中路军首领和春、福济“师老兵疲，急难奏效”，谕旨却让他与和春、福济“联衔具奏”，“详细酌度办理”。

在淮北官员的任用上，和春、福济二人与袁甲三意见不合，二人上疏举劾袁甲三：“坚执己见，无从会衔”，诬告他“株守临淮、粉饰军情、擅截饷银，冒销肥己”。朝廷听信了和春、福济的奏报，命袁甲三回北京交兵部“严加议处”，袁甲三在淮北很得军民心，他离开的时候，挽留他的百姓把路都堵住了。

暂遇低潮

袁甲三到京不久，即被革职。

咸丰五年(1855)五月，袁甲三向督察院申诉说：和春他们说我擅截饷银等罪名，都是诬陷的。因为在鮦城战役(咸丰四年)后，我曾经责怪和春他们“置不应援”。今年又因为他们攻打庐州失败，弹劾过他们。他们怀恨在心，所以捏造流言蜚语诬陷我。督察院接到袁甲三的申诉，就向咸丰文宗皇帝作了汇报，文宗命两江总督怡良秉公查办。

袁甲三离开皖北不久，捻军首领张洛行又把安徽、河南各部捻军联合在一起，声势更加浩大，老百姓也饱受战乱之苦。怀远县的老百姓胡文忠，卖掉自己的女儿作路费，徒步走到京师，请求都察院让袁甲三回安徽镇守，因为他的状纸没有被都察院接受，就怀揣状纸上吊自杀了。言官给事中孙观、御史曹登庸、宗稷辰等，先后上疏说：“袁甲三在临淮剿办有方，地方才因此得到安宁。”两江总督怡良、江苏巡抚吉尔杭阿、浙江巡抚何桂清，也纷纷上呈奏章，请求“仍起甲三视师”。经各方查证，和春、福济指责袁甲三的种种罪名，确系诬告。袁甲三才得以平反并被重新起用。

重新被起用

咸丰六年(1856)，袁甲三受命协助河南巡抚英桂剿办河南捻军。他先到归德(今商丘)召集旧部与捻军对垒，三战三捷，一举瓦解了捻军对亳州的包围。然后在燕家小楼歼灭捻军几万人，俘虏了捻军首领苏天福，只有张洛行一个人逃跑了。对此，朝廷特诏嘉奖，命以三品京堂候补。

后来张洛行又纠集溃散的捻军进攻颍州，失败后再度占领雉河集。咸丰七年(1857)，袁甲三的军队先后消灭了王、邓、宋、姚几股捻军，杀死捻军首领李寅等100多人，被升任为太仆寺卿，赏戴花翎。胜保督师攻张洛行于正阳关，久不下，奏请袁甲三合剿，袁甲三令部将朱连泰、史荣椿攻韩圩，克之。

咸丰八年(1858)，与胜保一起解固始之围，收复六安。史荣椿破捻军于铜山，斩其首领孙大旺。移军宿州，袭取王家圩，诛首领王绍堂等，乘胜收复七圩。七月，受命代胜保督办三省剿匪事宜。袁甲三令子袁保恒偕总兵傅振邦大破捻军于太和李兴集，歼毙数千，逐捻军出河南境，赐号“伊勒图巴图鲁”。

咸丰九年(1859)正月，与胜保意见不合，屡被上疏参奏，故被召回京，入觐，面陈军事。四月，上谕袁甲三为漕运总督。胜保因母亲病故回籍丁忧时，袁甲三被升任钦差大臣，督办安徽军务，实授漕运总督。

咸丰十年，他进军凤阳，屡战屡捷，朝廷嘉奖他调度有方，赐黄马褂。这年秋天，英法联军攻陷北京，王公贵族都逃到热河去了。袁甲三请求率兵北上，保卫北京，朝廷说临淮是南北要塞，没有批准。

咸丰十一年(1861)十一月，袁甲三督军攻占捻军坚守三年的定远县城，并派兵与多伦阿部同取庐州城。袁甲三知道自己带领的军队不是嫡系，又无用人和筹饷的实权，与自成一派的湘军、皖军不可同日而语。所以他虽然屡战多胜，但寿州失陷仍有诬言上达。这使他处事更加谨慎，长子袁保恒作战勇敢，就从不准他与别的将士争功。

多年戎马生涯，袁甲三已积劳成疾，全身麻痹。他先请假休养，后病势剧增，又请开缺回籍。朝廷批准了他的请求，但是所下谕旨却说：“前因寿州失陷，袁甲三与翁同书共办一事，且有督办军务之责，降旨交部严加议处。维念该大臣督办安徽军务三载，时值艰危，竭力支持，一切尚属稳练，该部所议袁甲三应得革职处分，著(着)加恩宽免”。

袁甲三住在陈州(今淮阳县)家中养病期间，捻军两次进攻陈州。当时袁甲三的病已非常严重，他就在病榻上向守卫陈州的将吏传授破敌方法，结果捻军两次进攻陈州都没有成功。同治二年(1863)六月二十四日，袁甲三病故，享年五十八岁。同治皇帝赐谥号“端敏”，葬于淮阳西关并设专祠祭祀，后又在他率兵作战过的临淮、淮安建专祠。有《端敏公遗著》传世。

身后事

淮阳袁甲三墓，属“悬棺”。尸体于“文革”期间被红卫兵从墓中“请”出示众，墓中随葬品，据说被村民换回十三台手扶拖拉机。