战败落单
西路军渡过黄河后，由于种种原因，先后在古浪战斗、水泉战斗、梨园口战斗中遭遇失利。
由于损失惨重，年3月14日，西路军军政委员会决定，由徐向前（西路军总指挥）、陈昌浩（西路军政委）离队返回延安。留下的残部分为三个支队进行游击战，这三个支队分别为李先念支队，张荣支队和王树声支队。
随后，王树声率领部队进入祁连山，其任务之一是掩护总部摆脱危险。不久后，该支队又遭到了马家军的多路围攻，经过惨烈的战斗，该支队最后只剩下王树声、杜义德（时任师长，开国中将）以及11名官兵，其余战友不是牺牲，就是失散，饿死冻死或者病死了。
李新国老人（开国大校）就是这11位官兵中的一人。他后来回忆说，王树声带领着他们十几个人，一路向东走，当时路上的积雪有半人深，他们没吃没喝，衣衫破烂，只能一路乞讨。同时，他们也遭遇了多次敌情，有一次还被20多个藏民持枪威胁，多亏大家跑得快才幸免于难。
出祁连山后，这支部队只剩下了8个人，王树声认为8个人目标太大，应该分成两组行动，他和杜义德带一组，李新国等人为一组。
杜义德中将后来也回忆过这一段日子，他说当时他和王树声等人一起向东行进，路上遇到人时，总是由他上前问路，王树声就低头跟在后面，因为王树声面相太凶，之前吓走了好几个路人。
王树声一组走的是腾格里沙漠，在一个夜里，他们遭到了马家军骑兵的袭击，王树声在战斗中与杜义德等人失散，只身一人沦落沙海。
沙漠求生
当时是初夏，腾格里沙漠时有狂风来袭，刮得天昏地暗，王树声不知道自己在这样恶劣的环境中走了多久，最后一阵狂风把他卷到了一处山坡下，王树声当即昏了过去。
醒来时已是半夜，王树声扒开掩埋在自己身上的沙土，艰难地爬了起来，摇摇晃晃地继续前进。此时的他脸上已经脱皮，嘴上起了水泡，由于没吃没喝，身上一点力气也没有。
他坚持走了很久，途中竟然经过了一湾小湖，还遇到了几颗沙枣树，这些东西虽然珍贵，但对他的帮助其实是非常有限的，走了3天之后，王树声再次昏倒在了沙漠中。
当他再次醒来时，发现自己身边坐着一个60多岁的老人，这个老人叫俞学仁，是当地的一个盐贩。
俞学仁老人喂了王树声一些水和食物，询问他为什么跑进这茫茫腾格里沙漠中，防人之心不可无，王树声谎称自己是个盐贩子，因为路遇劫匪，被抢了个干净，才落到了如此地步。
俞学仁自己就以贩盐为生，他当然不相信王树声的话，他很快就看出了王树声的真实身份，但他还是决定送王树声出沙漠，因为他对红军早有耳闻，那是一支穷人的部队。
俞学仁一路把王树声送过了黄河，来到了宁夏同心城外，这里由红军掌控着，他们很快就被就被红军哨兵发现，押送到了团部，该团团长一见王树声就把他认了出来，连忙赔礼道歉，并招待他们吃了饭。
就这样，王树声历尽艰险，终于成功归队。
俞学仁与王树声一起在部队里住了两天后才分手，临别前王树声送给俞学仁一个金戒指作为留念，王树声对他说将来全国解放了，他一定会去中卫看他。两人依依惜别。
王树声在骑兵的护送下住进了当地的一个镇子，此时他归队的消息已经传回了延安，毛亲自给他打去电话，告诉他杜义德等人都已经到延安了，并安慰他说“你们回来就是胜利。”王树声为此感动不已。
随后他被召到延安，当面汇报了西路军的遭遇，并做了深刻的检讨，毛再次安慰他：“你自我批评的精神值得每一个红军官兵学习，但西路军失败的责任，不能由你负。”
毛鼓励他放下思想包袱，努力工作，随后亲自写了介绍信，介绍他到抗大学习。
抱憾终身
年秋，时任延安D校军事队队长的王树声再次被召到毛的居住地——枣园，这次中央决定派他和徐向前、戴季英等人一起赶往中原，与当地的部队会合，组建河南军区。由于当时徐帅在山东骑马受了伤，中央决定由王树声暂时挂帅。
王树声听到这项任命后惶恐不已，忙说自己水平有限，且犯过错误，恐怕不能胜任，毛再次鼓励他说：“西路军的问题，我们当初就谈过了，西路军的失败，你没有责任……我们相信你有这个能力……”
临别时，毛还特地赠言，要他“放下包袱，开动机器。”王树声为此深受感动和鼓舞。
此后王树声先后担任晋冀豫军区代司令员、河南军区司令员，中原军区第一司令员兼政委等职，独当一面，屡建功勋。年，他被授予大将军衔。
但是，一直到晚年，王树声将军都对当年西路军的失败念念不忘，心中抱憾，他曾总结说，自己这一辈子是“逢七不顺”：27年黄麻起义失败，37年西路军失败，47年中原突围失败。
年，将军身患重病，但他依旧花费了大量的时间去总结过去这几个失败的经验教训，以警戒后人。住院期间，徐向前、聂荣臻、叶剑英、李先医院看他，徐帅握着他的手说：“你是鄂豫皖根据地和红军的创始人之一，是大别山的英雄啊！”王树声听后连连摇头说：“我不能算，我做的还不够。”
74年元旦后，医院看了王树声，王树声紧握住周的手，说自己“于革命无功则有过。”周也握紧了他手，庄重地告诉他：“……席了解你！你为中国的革命事业做出了重大的贡献……”
此时的王树声已是骨瘦如柴，他听到这句话后浑身颤抖，泣不成声，周围的人无不为之动容。
几天之后，王树声大将逝世，享年69岁。根据他的遗愿，他的部分骨灰被送回了家乡的麻城烈士陵园。