1938年11月，根据中央关于要把工作重点转向豫东，创造豫皖苏边区新局面的指示精神，张将军奔赴豫东一带领导统战工作，开辟敌后抗日根据地。他以中共豫皖边工委书记和参谋长的身份，来到与我党协同抗战的魏凤楼部，帮助魏部建立党的组织，整顿部队，改造政权，使魏部的面貌焕然一新，战斗力大为加强。为培训抗日骨干，他在鹿邑举办了抗日干部训练班，并亲自担任教育长，讲授《游击战术》等教程。敌后斗争是艰苦的，他与学员同甘共苦，睡的破板床，吃的地瓜干，为我党培养了400名抗日优秀干部。另外他还不辞劳苦为新四军筹粮募捐，曾一次为新四军游击支队以很大接济。送去3000块银元的军饷，在物资装备上给新四军游击支队以很大接济。1938年12月，鹿邑县城第二次沦陷，他巧施雪夜奇袭计，顶风冒雪，黑夜乘敌人不备，带领部队协同魏部翻越城墙，一举收复了县城。1936年4月，日伪军第三次侵占鹿邑县城，他组织新四军游击支队驻鹿邑留守处安全转移，并率部队100余人到城西南沙江山一带阻击日军，支援魏部，沉重打击了日寇的反动气焰。1939年7月张将军又奉命率领部分干部赴皖东北开辟新区，走向了新的征途。

　　张将军在豫东工作虽不到一年时间，但他和鹿邑人民建立了深厚的感情，对统战工作以及豫东的整个抗日救亡运动做出了卓越的贡献。至今鹿邑一些年近花甲的老人，对张将军仍然记忆犹新，特别是新四军的老战士，谈起张爱萍将军总是赞不绝口，称赞他将军雄风，誉满豫东。