在五一大扫荡中，日军经过第一阶段扫荡，到了5月13日，他们发现我军仍然有相当多的部队，没有陷入他的包围圈。冈村宁次精心设计的第一阶段围剿，并未取得完胜。
为了消灭冀中我军主力，他马上再生一计。到了5月15日以后，除了保留部分兵力在新占领地区修筑据点、分股清剿以外，他把这次扫荡主力的41师团和第九混成旅团，全部后撤到了外线地区，隐蔽待机。
然后日军对外宣称，扫荡的主力已经回到了山西。他们企图给我方造成，扫荡已经结束的假象，然后自动跳入他的陷井。为此，他不惜撤离大部分主力，只留下了小部分兵力，在我根据地分兵把口，以引诱我军攻击。
一、我军的休整和恢复。
在我军这边，经过第一阶段合围后，情况其实是很困难的。以状况最好，多次取得胜利的七分区22团为例，虽然只有四连受到了不小损失，人员伤亡不大，但是部队已经连续作战半月，打了几十仗。战士们极度疲劳，弹药也几乎消耗殆尽，急需休整补给。
而在其他地区，情况就更恶劣了。比如六分区，在5月12号大小尹村突围以后，分区机关和部队被打散。分区司令员王长江，突围成功后，身边只剩下了10多人。
他们当时躲在深北县大凌霄一带的梨树林里，不停的和敌人周旋。当时他们已经两三天吃不到一滴水，吃不上一粒饭，只能采些野菜，嚼些鲜麦穗充饥，眼看着一天天虚弱下去，再这么下去，日军搜索过来，连跑都跑不动了。
他们虽然曾经先后几次，派人去村里搞粮食，但是由于日伪军搜索太严，大多数情况下都是有去无回。最后王长江司令员没有办法，派出了他身边最得力的警卫员石凤阁。
石凤阁当时才17岁，虽然长的瘦小，但是精明强干。他趁着黄昏，化妆成了割草的孩童，骗过了敌人的检查，混进了过去常住的吕村，找到以前的房东老大娘。老大娘不顾危险，连夜做好了稀饭，贴了高粱面饼子，又装了咸菜，趁着夜深让他带了回来。这一次大家才算是吃上了一顿饭，饭后有了点力气，王司令员这才带着大家越过苍石路，才算暂时脱离了危险。
然而，部队虽然被打散了，凝聚力仍在，坚持斗争的精神仍在！王长江旅长当时身边只剩十余人，稳定下来以后，当即派人四处寻找，全力收容失散部队。
先是二营副营长得知消息，带着一个排回来了。
再是二营林子元营长，带着一个连也回来了
然后是宣传科长刘子英、二营教导员张琪带着的一个连，他们克服了种种困难，也脱离了敌人的包围圈，成功的和大部队汇合。
至于三五不等的流落战士，更是源源不断，闻讯而归。
当时除了第八连，突到安平和深泽县一带活动，没有返回以外，其余零散部队都陆续陆续返回深南县。到了5月20号，路南指挥部的旷伏兆政委，也派人将机要科和电台的全部人员，护送到了石德路北分区司令部。六分区和上级的联络，恢复了！仅仅用了五天，被打散的六分区，又成军了！
这是什么样的组织纪律性！这是何等坚定的革命意志！这样永不言败，被打倒以后自动自觉归队继续战斗的精神，才是八路军不断发展壮大的根基所在。
二、日军的欲擒故纵之计，和上当的我军。
当时的日军，除了留下较少的兵力，在新占领地区设置临时据点，进行分区清扫和搜索以外，他们把主力部队全部转移到了外线，隐蔽在了敌占区的中心处。他们白天让部队乘汽车撤走，到了晚上再偷偷返回，造成反扫荡已经结束的假象，借以迷惑我军。
而且在下乡搜索的时候，故意留出比较大的活动空间，暴露出兵力不足的缺点，作为诱饵引我入内。
岗村这个老狐狸确实狡猾，他们第一步，是用的“敲山震虎”之计，把我主力赶到滹沱河以南。
然后又是“瞒天过海”之计，把整整一个41师团，千里机动从山西临汾调到了冀中，突然合围了我根据地。
现在，他们又施展出了“欲擒故纵”之计，以小股的日伪军作为诱饵，以所谓的钓鱼战术，把主力部队隐藏起来，以便让我们放松警惕，好杀我一个回马枪。
毋庸讳言的是，当时日军的这一阴谋，不仅没有被我分区识破，就连冀中军区的首长，也被这一暂时缓和的假象所迷惑。他们按照以往的旧经验，做出了错误的判断。继5月15号指示以后，他们在5月19号，又再一次对各分区主力部队，下达了返回根据地，主动出击的明确命令。
当时正在沧（州）石（石家庄）公路北，收容5月12日大小尹村突围战失散人员的六分区司令员王长江，接到的冀中军区首长电令是：
“目前反‘扫荡’的中心任务，在于内线坚持反‘清剿’、反抓捕的斗争，外线部队展开破袭，开辟新区，配合内线反‘清剿’斗争，并以得力部队深入之。六分区的警（备）一团立即回深南，恢复社会秩序，打击敌人‘清剿’，收容失散部队……”
三、我军的内部争议，和悲壮赴死的决心。
应该说当时军区的这一决定，在我军内部，当时也是有争议的。从基层作战人员的切身体会来看，日军的这次进攻，绝对不会这么容易结束。我军一旦返回根据地中心，很可能遭到敌人主力的集中精准快速打击（我军当时叫激击），损失可能会很大。
当时以二营林子元营长为代表的基层指挥员，明确提出了自己的意见。分去路南的旷伏兆政委，也根据所掌握的情况，向军区首长提出了建议。但是这些意见，都没有被采纳。
应该说冀中军区的这一命令，是有他现实考虑的。
1.日军非常疲劳。
当时日军扫荡已经进行了20天，我军虽然久战疲惫，千里机动马不停蹄扫荡的日军，情况只有更糟糕。他们非常疲劳，急需回去休整。
2.失散的人员和物资需要收容。
五一大扫荡开始后，因为事起仓促，我军不少部队被打散，不少物资只是草草隐蔽。如果一味在外围等待，这部分人员和物资，很可能就永久损失了。
3.根据地人民需要我们。
大扫荡开始以后，日伪军占领了我大片根据地，建立起了伪政权。他们不断宣传八路军已经被赶到山区，永远回不来了。我军如果长时间不出现，老百姓心里会动摇。
4.一味避战不是办法。
这次日伪军的扫荡，明显和以前不同，他们打的是长期驻守的主意。一味避战，是等不到敌人主动撤离的。如七分区那样，一方面敌进我进，跳到敌人外围。另一方面原地主动出击，坚持斗争，不断用伏击让敌人放血，让敌人觉得得不偿失主动退兵，才是正路子。
所以，应该是出于以上种种考虑，当时冀中军区领导们，才做出了重返根据地的决定。有人站在后来人角度，用事后诸葛亮的观点，来说当时的决定有问题，这也是苛求了。很多时候明知是计，迫不得已也得去做。其实就是一句话：
大家是手里有枪的人民子弟兵，眼看着老百姓被日军凌虐屠杀，这心里能过得去吗？明知道此去九死一生，也得战啊！
人民子弟兵，出于人民，就是要保护人民的。哪怕明知结局，也得义无反顾得上啊！这就是英雄的人民军队，这就是悲壮的八路军战士！
三、八路军主力返回根据地。
服从命令听指挥，是我军的基本原则。有意见可以保留，但是组织做出了决定，就要百分百去执行。根据这一命令，我军主力部队，开始返回原根据地中心。
以六分区和七分区为例，除了一直在无极县东北部，坚持战斗的22团主力以外，我17团主力，也返回了定县一带。在5月18日，我17团第二营，甚至敢跑去打县城了！
他们在谢洪恩营长，杨鼎昌教导员率领下，突袭定县县城，逼得日伪军关闭了城门，不仅严阵以待，还紧急呼唤了援兵。当然，我军缺乏重武器，也没有李云龙团长的意大利炮，实际是无法打下县城的。在佯攻了几次以后，我军摧毁了定县城关进城的桥梁，在敌人援军到来前，平安撤退了。
六分区警备旅一团，在政委陈德仁、副团长兼参谋长郭慕汾的带领下，也回到了深南县。
郭慕汾副团长带一营（欠二连）进驻南北梨园；陈德仁政委和军区宣传部长张仁槐，带团直和一营二连住在附近的一个村子里。
我主力团一回到根据地，就受到了老百姓的热烈欢迎。他们各部立即开展活动，白天分散开来，伏击日伪军的下乡小分队，反击敌人的搜剿抓捕。到了晚上，就集中起大部队，不断袭击敌人的临时据点。如此的连续打击，给敌人造成了不少损失，大大提振了我军民的士气。
到了5月19号，我40区队和深束县大队，以及区小队共多人，也于19日夜转进到了白宋庄。
四、5.20日军第一个回马枪。
日军在占领我根据地期间，虽然只有短短几天，也初步建立起了伪政权，并在各乡以至各村，都发展了汉奸联络员。他们一旦发现我军动向，就可以立刻进城报告。因此我军的这次大规模返回行动，对日军来说其实是透明的。
侦察到八路军主力返回后，日军将领迅速调兵遣将。从5月20日起，驻扎在外围的日军的第九混成旅团，就开始出动了。
他们以千余人的兵力，开始重新“扫荡”深（县）磨（头）公路以西地区。