1974年年初，王近山渐感身体不适。

　　11月份，因大吐血，他不得不住进医院，医生检查不出病情，经请示后决定实行手术检查，一打开腹腔，结果是胃癌。不幸的是，术后肠子又破了，造成肠漏，大便不断漏出，他又不得不开腹再次做了一次手术。

　　王近山的病情一传出，一些战友和老部下很关切。时任沈阳军区司令员的李德生专门买了红参派人送来，尤太忠也是多次打电话询问病情。

　　一天，王近山在北京的结发妻韩岫岩也听到了他患癌症的消息，脸“唰”地白了。一晃10年过去了!这些年他们一南一北没任何联系，但时光消融着人间恩仇，过去的恨也好怨也好，点点滴滴都随风而去了。当初如果她冷静些不那么冲动，或许王近山的人生命运不会是现在这样。对于落魄的王近山，这些年她内心颇有些酸楚和悔意。她的弟弟号称“一把刀”，是外科主任，她想如果让他开药，或亲自主刀做手术，或许可以挽救他的性命。

　　尽管王近山在南京已有自己的家，有名正言顺的夫人照料着，韩岫岩还是忍不住买了大包小包的补品想去趟南京，看一眼他。可当她拿起电话接通了王近山的一位老警卫员，含含糊糊表达了自己的心愿时，谁知这位和王近山出生入死、对老首长忠心耿耿的警卫员至今不能原谅她，一听她要去南京，很不客气地说：“他说过到死也不愿再见到你，你去是不是想让他早点死?”

　　韩蚰岩木然撂下了电话，无语凝咽。

　　北京发生的这一切，远在南京病中的王近山并不知道。但如果他知道这一切，又会怎么做呢?人们不得而知。幸好，这次在医院的抢救下，他的病情得到了控制，王近山依然活下来了。

　　1978年4月下旬，王近山的病情恶化。

　　在病危时，王近山什么都不问，只频频问及家人：“张立三还没有来吗?我一定要见他一面。”

　　张立三是他的老部下、老战友，1931年参加红军，第二年在红四方面军向西转移时与他在10师30团工作。一年后，他调任10师28团团长，张立三也调到28团当卫生队长，从此以后在20多年的风雨岁月里，他们朝夕相处，你救过我的命，我也救过你的命。几十年来，他们相互之间没红过脸，没大声说过话，部队行动，一住下来，就相互看望。有时王近山发火，身边的人赶快把张立三请来，两人谈一谈，立刻就平静下来了。他们同生死，共患难，结下了深厚的兄弟之情。

　　王近山在已无生望、即将离开人世之际，唯一的愿望就是想见一见几十年来情同手足的老战友张立三。

　　张立三赶到了，两人一见面，紧握双手，眼泪夺眶而出。虽然张立三是经验丰富的医生，知道重病人不宜过分激动，但两人谁也不能抑制住这战友的深情，在这生离死别的时刻，两位战友能说些什么?只有心隐隐在疼。沉默了好久，为了松弛这难耐的气氛，张立三全然忘记病房内不准吸烟的常识，掏出香烟，正要点火，王近山看到后，以微弱的声音说道：“你不要吸烟了!”

　　王近山不吸烟，张立三却抽得厉害，他曾劝他戒烟也没戒成。现在王近山又劝了，张立三十分激动地说：“今天我就当着你的面把烟戒掉!”

　　他当场就将香烟、打火机扔了!

　　两天以后，王近山去世了。张立三听取战友临终的劝告，放弃了几十年吸烟的嗜好。他后来说：“那是1978年5月8日，从那天起我戒了烟。”

　　1978年5月10日，王近山因病医治无效在南京逝世，终年才63岁。

　　临终前，由于病痛的残酷折磨，他已骨瘦如柴，弥留之际，虽已神志不清，但在昏迷状态中，还用微弱的声音问道：“敌人打到哪里了?我们谁在那里?”

　　他的小儿子回答说：“是李德生叔叔在那里!”

　　“李德生上去了，我就可以放心睡一觉了。”

　　他是听着专门为他播放的军号去世的。王近山去世后，对他的后事，党中央和有关方面非常重视。邓小平亲自审定了悼词，对王近山一生给予了充分的肯定和很高的评价。中央军委补发了王近山为南京军区顾问的任命。

　　5月17日，南京军区举行的追悼会十分隆重，邓小平、刘伯承、徐向前、许世友、李德生、陈锡联、彭冲、宋任穷等，以及王近山的生前友好送的花圈，摆满了悼念大厅。追悼会的规模原定500人，实际参加的有1000多人。

　　很多同志特别是王近山过去领导过的部队的同志，远道赶到南京参加追悼会，表达他们对王近山的哀思。王近山为人民屡建奇功，他得到了应得的崇高荣誉。