1966年12月，张万年同志任广州军区司令部作战部作战科科长。面对“文化大革命”复杂混乱的局面，他排除干扰，千方百计保证业务工作的正常运转。他根据军区首长指示，先后制定了一系列应急措施，为保护军区首长起到了重要作用。1968年4月，张万年同志任广州军区作战部副部长，不久即奉命参加中国人民解放军赴越南溪山学习组考察学习。同年6月，任陆军第43军127师（铁军师）师长。他和师党委一班人坚持和发扬我军优良传统，牢固确立战斗队思想，注重加强军事训练和部队全面建设，使部队战斗力得到了提高。在各种风浪面前，张万年同志经受住了一次次严峻的考验，从未动摇过对党的忠诚、对军队的热爱，始终顾全大局，加强部队建设和战备训练，保持了部队的稳定和战斗力。

　　1978年3月，张万年同志被选派到解放军军事学院高级系学习。同年12月，任43军副军长兼127师师长。在南疆自卫反击战中，他靠前指挥、出奇制胜、四战四捷、威震敌胆，为保卫边疆立下了赫赫战功，所属部队两次受到前指通令表彰。1981年3月，任43军军长。他着眼现代化战争需要，大力开展新形势下军事训练改革，努力把部队打造成军委的战略铁拳。1982年9月，作为中央军委在全军范围内选拔出的优秀干部代表之一，光荣地出席了党的十二大，并被选为候补中央委员。1982年10月，任武汉军区副司令员。他按照中央军委提出的“积极防御”战略方针和我军建设总目标，狠抓新形势下的军事训练改革，深入探索部队正规化建设路子，取得了成绩。他提出建立和保持“四个秩序”（战备、训练、工作、生活）和“一个形象”（军人形象）的要求，推动了军区部队正规化建设。1985年6月，任广州军区副司令员。面对繁重的精简整编任务，他指导部队完成了全军合同战术训练改革试点等重大训练改革项目。1987年11月，任广州军区司令员。为做好应对随时可能爆发的冲突和局部战争的准备，他组织广州战区三军首长机关协同作战演习，改变军区只训下级不训本级的现象，加强军区机关自身训练和三军协同演练，提高了组织指挥方面军抗登陆战役能力和三军协同作战能力。针对广州战区处于“战区”和“特区”的特殊情况，加强部队教育管理，进一步探索总结了“四个知道、一个跟上”带兵经验，培养了一大批爱兵、知兵、会带兵的人才。在1989年春夏之交的政治风波中，张万年同志旗帜鲜明地反对动乱。1990年4月，调任济南军区司令员，先后指导全区部队组织开展了军械大比武、“四会”教练员培训、正规化训练、夜间训练、炮兵群“快反”实验等，推动军区部队全面建设迈上了新台阶。

　　1992年10月，张万年同志任中央军委委员、总参谋长。他积极参与中央军委集体领导与决策，制定新时期军事战略方针，把军事斗争准备的基点由准备应付一般条件下的局部战争转到打赢现代技术特别是高技术条件下的局部战争上来。他带领总参谋部瞄准打赢目标，展开全军新一轮军事训练改革，掀起学习高科技知识的热潮；深化联合作战研究，为推进中国特色军事变革的战略部署作出积极贡献；他先后率领并指导总参谋部组织了登陆作战、空降作战、山地作战和城市作战“四种纲目”训练试点集训；组织召开全军训练改革座谈会，部署深化军事训练改革任务；组织召开全军管理工作会议，重点研究解决新形势下管好干部带好兵的问题。其间，先后兼任“九五”期间军队建设计划领导小组组长，主持制定军队“九五”计划；兼任香港驻军准备工作领导小组组长，顺利完成驻港部队的组建工作。他团结带领总参谋部官兵牢牢抓住思想政治建设这个根本，积极探索新形势下治军带兵的特点规律，推动总参机关、部队和院校建设取得了长足进步。

一九九三年十一月三日，邓小平同志在家中同张万年同志合影。