1949年9月，白崇禧召集桂系骨干将领在衡阳开会，他给众人打气说：“当前我们兵力充足，可以和共军进行决战。”

桂系老将张淦说：“单纯防守是守不住衡阳的，我们应该主动出击，以攻代守，这样才会立于不败。“张淦任司令官的第三兵团，是桂系的本钱部队，辖第7、第48两个军，其中第7军是桂系最精锐的一个军，当年在北伐时有”钢军“之称。

张淦过分迷信第三兵团的战斗力，主张由他率部从宝庆左翼出击，他甚至向白崇禧夸口，可以一鼓作气突击几百公里。

整整一个多小时，张淦都在向在座的桂系将领大谈他的突击计划，白崇禧也表现出了很大的兴趣，便让其他将领也参与讨论，桂系其他将领大都反对张淦这个冒失的反击方案。

有人直言说：”我们的兵力完全不占优势，出击就是死路一条，应该保存实力，先撤退了再说。”

有人丧气地说：“撤退也是个办法，可是能撤到哪里去呢？去广西还是去广东呢？”

参会将领们针对撤退问题展开积极的讨论，主战的张淦被晾在一边。

关于撤离方向，有人说：“能去广东最好，广东比广西要富足得多，而且地理位置好，离香港、台湾都很近，也方便接受美援。”

不过，桂系的老资格将领大都主张去广西，他们认为:“广西是桂系的老家，这里相比广东易守难攻，而且桂系多年来训练的民团实力也不可小觑，应该将主力退回广西，坚壁清野，进行防御。”
经过几个小时的讨论，除了张淦一个人主张在衡阳地区和解放军进行决战外，其他人都提议桂军主力撤往广西或广东。

白崇禧思前想后，想撤却又不甘心，最后他对众人说：“张司令官的反击方案也不是没有道理，但是为了稳妥起见，也应该做好向广西、广东方向撤退的准备，至于具体方案，容我在想一想。“

然而，留给白崇禧思考的时间很有限，解放军势如破竹不断挺进。10月5日，白崇禧见再不走就来不及了，只得下令桂军主力撤往广西。这天的傍晚，白崇禧直接给第七军军长李本一打电话，说：”今晚决定撤出衡阳，第七军担任后卫，掩护长官公署和第三兵团司令部撤离。“

第七军是白崇禧最看重的部队，因此他嘱咐李本一：”在撤退的时候，你不要逗留，务必把主力带回广西。”

接完电话后，李本一召集第七军高级军官开会，决定于第二天早上9时，以两路纵队行军，向广西撤离。

10月6日早上9时，第七军分为左右两个纵队，副军长凌云上率左纵队（辖171师、第48军176师）从祁阳方向往广西撤退；李本一率右纵队（辖军直属部队、172师，第48军138师）从黄土铺方向往广西撤退。

李本一在撤退时非常松懈，虽然参谋告诉他从衡阳去黄土铺这一路上都是高山，道路狭窄不利于行军，部队应该快速通过，但李本一没有当回事，导致右纵队行军队伍拉得很长，这就非常不利于战斗。

就在桂系主力向广西方向撤退的关键时刻，解放军第135师的出现，彻底打乱了白崇禧的撤逃计划。早在10月3日，135师师长丁盛就率全师指战员快速向前挺进了，白崇禧见解放军只有一个师，便调集优势兵力，企图全歼，结果桂军不仅没能打垮135师，反而被该师死死的咬住，桂军陷入了混乱。

由于解放军135师将桂军主力死死地咬住，白崇禧不得不先后出动了第48军的138师、176师及第7军的171师、172师共四个师向135师发起攻击，之后又抽调了一个师参与进攻。

丁盛指挥一个师的解放军，硬是和五个师的桂军打了一个旗鼓相当，你来我往。丁盛后来回忆说：“在这次战斗中，135师就是一个牛皮糖，死死地把白崇禧的第7军、第48军粘住，白崇禧想吃又吃不掉我们，想走又走不了。我们135师的战士占领了好多山头，白崇禧的部队无论是向东还是向西，都走不掉，到处都是我们的部队和他在打。”

在丁盛指挥135师将桂军主力死死钉住的同时，解放军主力部队陆续赶赴战场。10月10日下午5时多，桂系老本部队第7军、第48军主力被十几万解放军合围，白崇禧下死命令让李本一不惜一切代价突围，但为时已晚，激战至第二天清晨，桂系第7军被全歼，第48军被歼灭大部。

此战（衡宝战役），解放军歼灭桂系精锐部队4.7万人，比起蒋介石的中央军被解放军动辄歼灭十几万甚至数十万，白崇禧的这个损失似乎不大。但是，白崇禧可没有蒋介石那么阔绰的兵力，当时的白崇禧以华中军政长官的身份号称节制了30万大军，实际上真正听命于他的也就桂系的16万正规军了，衡宝战役白崇禧损失的是桂军中最精锐的部分，这一战可以说是打断了桂系的脊梁。

当白崇禧带着残部仓惶逃向广西时，广州于10月14日解放，代总统李宗仁苦心维系的广州国民政府也告瓦解。此时的桂系，无论是在军事上，还是政治上，离彻底的失败已经不远了。