1944年4月18日，侵华日军开始实施打通大陆交通线作战的第一步——平汉作战，5月9日打通了平汉铁路，5月25日攻占河南省政府、第1战区司令长官部所在地洛阳，河南大片国土沦入敌手。
5月27日，日军开始实施湘桂作战，向湖南发动大规模进攻，战事重心南移。
根据中共中央的指示，北方局和八路军总部决定以太行军区第3团、新编的第35团和豫西地方工作队共1500余人，组成八路军豫西抗日独立支队(即第1支队)首先挺进豫西，开展抗日游击战争；以太岳军区第18、第59团等部组成豫西抗日游击支队(即第2支队)随后南下。
1944年8月15日，新四军第4师师长彭雪枫率师主力从泗洪县东南的半城集等地出发西进，20日在宿县以北越过津浦铁路进入萧县以南地区。国民党军极力阻止新四军西进，新四军进行反击，师长彭雪枫于9月11日在河南省夏邑以东八里庄战斗中英勇牺牲。10月，新四军第4师在第3师第7旅及八路军冀鲁豫军区3个团的协助下反击，将顽军赶回涡阳县城。11月，新四军第4师又开辟了商丘、毫县、永城之间地区，至此，基本上恢复了豫皖苏边抗日根据地。