抗战最激烈、最困难时期，彭雪枫审时度势，果断决定在新四军中创建一支骑兵部队。这支部队迅速发展壮大，并成为纵横驰骋华中平原的精锐之师——

　　抗日战争爆发后，彭雪枫先后任新四军游击支队司令员兼政委、新四军第四师师长和抗日军政大学第四分校校长等职。在一次反顽军战斗中，新四军第四师所部遭国民党顽军骑兵部队的袭击，损失惨重。彭雪枫心如刀绞，痛下决心要尽快建立自己的骑兵部队。

　　1941年7月中旬，第四师在淮宝县仁和集召开四师军政委员会扩大会议。彭雪枫在大会讲话中深刻总结检查了津浦路西反顽斗争失利的教训：“第四师之所以失利受挫，一个重要原因，就是没有有效地对付敌军骑兵。论作战勇敢，敌军骑兵不如我；讲行进速度，我不如敌军骑兵，所以多次战斗四师常常陷入被动局面。现在到了津浦路东，组建骑兵部队，就是吸取过去的教训，面对配有快速骑兵部队的敌人采取的针对性措施。”彭雪枫提出组建骑兵团的建议，是他久经思考的想法。

　　彭雪枫的提议得到与会同志的积极响应。经过热烈的讨论，四师政委邓子恢最后站起来作总结发言，他说：“我完全赞成雪枫同志的想法。雪枫同志有一个全面的建军指导思想：既要有以步兵为主的主力部队，又要在各县区发展众多的地方武装，还要有遍地开花的广大民兵。另外，还要有一支机动性强的精干快速部队，也就是我们要有个骑兵团。”

　　见大家没有不同意见，彭雪枫对四师参谋长张震说：“司令部同志抓紧研究一下，拿出具体方案来。”张震接过话茬：“早在津浦路西时，我们就要求各旅团搞骑兵连、骑兵排，目前我师的骑兵基本上可以搞起一个骑兵团。”

　　由于与会领导的意见非常一致，组建骑兵团的方案很快便确定了下来。

　　经过紧张的筹建，1941年8月1日，四师骑兵团在淮宝县岔河镇正式成立，黎同新为团长兼政委。

　　骑兵团的战士多是从步兵团队抽调来的战斗骨干，他们作战勇敢、作风顽强，却没有受过骑兵的正规训练，因而在战场上问题不断出现。

　　骑兵团组建不久，就受命攻打盘踞在淮西一带的反共急先锋王光夏部。

　　骑兵团飞速来到了战场，随着黎团长一声号令，战士们如猛虎下山，争先恐后地向敌人阵地冲去。但是，能跟上黎团长冲入敌阵砍杀的没有几人。冲在前边的黎团长与敌交火后，后边那些未上过战场的马匹听到枪声便四处乱跑，一些未经正规训练的战士被受惊的马摔了下来，原来威风凛凛的骑兵队伍一下子变得七零八落。王光夏的守备队一开始看到新四军的骑兵团来了吓得不战自溃，狼狈逃窜，后来见只有几个骑兵冲过来，便又壮起胆子重新围拢过来。黎团长和几个冲入敌阵的战士看到后续部队迟迟不到，只好边打边撤。

　　问题暴露了，大家神情不安，彭雪枫彻夜不眠。他在考虑怎样才能将这支新组建的骑兵部队建成一支铁军。他决定，首先要挑选一位熟悉骑兵的内行来当领导。