1968年4月，刚刚在广州军区推广完“塔山英雄团”建设经验的张万年，被提拔为广州军区作战部副部长。同年5月，张万年和其他9位同志共10人，组成中国人民解放军赴越南溪山学习，图为学习期间做的笔记。
张万年在考察期间总结了越军12条作战战术。在越南执行任务期间，被任命为第127师师长。1978年12月，升任43军副军长兼127师师长。1979年3月，他率127师参加对越自卫反击战，四战四捷，威震敌胆。
对越自卫反击战期间，越军曾喊出“打垮铁军师，活捉张万年”的口号，但开战第一天，127师就基本拿下越军主要阵地，歼敌1个营之多，整个作战期间，127师共歼敌2125人。