1937年，聊城城楼下的炮火连天，命令部队撤过黄河，但黄河以北的百姓只能任人欺凌。范筑先将军急得团团转，张维翰帮他拿主意，两人决定回电拒撤。可不到一年，范筑先将军壮烈殉国，部队群龙无首。张维翰顶着炮火，挨个儿找散落的战士，硬是把人心拢在了一起。到了1938年冬天，他把队伍整编成“筑先纵队”，足足八个团，一万三千多人。张维翰带着这支队伍加入了八路军129师。1940年，部队改编成八路军新编第八旅，张维翰当了旅长。上级给他派的副旅长是猛将王近山。1955年，中南海怀仁堂举行授衔仪式，张维翰只授大校军衔。不少老部下都替他抱不平。张维翰看得开，服从组织安排。1979年夏天，张维翰在北京病逝。他要求丧事从简，可送行那天，八宝山礼堂挤得满满当当。陈再道、李聚奎等上百位开国将军赶来送行。刘伯承、徐向前两位元帅也送来花圈。1994年中国青年出版社出版了《鲁西北抗日根据地史料选编》，记录了张维翰在鲁西北抗日的事迹。2006年解放军出版社修订了《中国人民解放军将帅名录》，记录了张维翰的生平履历和授衔情况。2011年4月解放军出版社出版了《八路军战史》，详细记载了筑先纵队加入八路军129师及新编第八旅的历史。如今聊城的“筑先路”车水马龙，“筑先路”铭记着张维翰和战友们的抗日壮举。129师纪念馆陈列着新八旅的事迹，他的名字和英雄们永远刻在一起。