黄大将在盐城参加完会议，又过了几天还没有回去，这时军委突然来了命令：
韩参谋长调往总指挥部另行分配工作。命令下得紧急，韩参谋长走得仓促，只带了个警卫员出发，因为黄大将不在，他也不能自己欢送自己，所以连欢送会都没开。
1941年1月7日，“皖南事变”发生。
1月20日，中央军事委员会发布命令，重建新四军军部。
1月23日，陈帅、张云一、胡服、赖珠、邓子灰向全国各友军发出就职通电，陈帅为新四军代理军长，胡服为政治委员，张云一为副军长，赖珠为参谋长，邓子灰为政治部主任。
5纵政治部副主任邓一凡也被调到新四军军部任政治部秘书长。之前，邓一凡兼过华中总指挥部后方政治部主任，据说他调走的时候带着好几个人，情绪不错。
“皖南事变”发生后，新四军的合法番号被撤销，新四军新第2支队副司令员冯达飞等12人被枪杀于上饶集中营。蒋光头及白党中央多次通令，
“决定对红党称奸党”，
“对新四军称匪军”，
“不得与新四军接洽，不分区域，协力严加剿办”，
“剿办新四军期间停止对日军袭击”。
中央军委宣布我党领导的陇海铁路以南的部队统一编为新四军，全军共下辖7个师、1个独立旅，军部直属“抗大”第5分校、独立旅及特务团，计9万余人。
2月9日，八路军第5纵队改编为新四军第3师，黄大将任师长兼政委，并兼军区（先后称苏皖、苏北）司令员、政治委员和军政委员会书记，原鲁西军区副司令员彭X接替韩ZJ的工作，调任新四军第3师参谋长，吴胖子为政治部主任。
原5纵下辖1、2、3支队分别改称7、8、9旅。
这时，留在冀鲁豫，原准备继续南下的八路军第2纵队留在原地未动，1941年7、8月间第2纵队再次整编，杨上将任司令员，苏上将任政治委员。
八路军第1纵队改为新四军第4师，彭雪枫任师长兼政委，下属4、5、6旅分别改为10、11、12旅。其中4旅改编为第10旅，所辖各团改为28团、29团和30团。
第3师奉新四军军部命令，开始东移。8旅下辖22团、23团、24随即跟进，开始离开皖东北，向苏北进军，决定到苏北开辟和建设抗日根据地。
白党顽军当然不愿我军壮大。3师刚离开皖东北，顽军趁日军向我苏中抗日根据地“扫荡”时，即向我军逼近。