在国民党阵营中，黄杰并非真正具备分量的人物，而是一位勤于做笔记写公文、忠心耿耿的军人。这种人格特质，注定了他在国民党存亡之秋的表现。在大批精锐部队被歼，蒋介石最重要的亲信将领被俘或主动献城投降之际，黄杰这样的人成了蒋介石没有选择中的唯一选择。抗战胜利后，黄杰被派任中央训练团教育长，负责军队复员转业的训练，1948年内战趋紧之后，又被安排回去带兵。1949年7月，程潜和陈明仁在湖南倒戈，震惊了国民党中央。行政院彻夜开会，商讨变乱局势的应付方法。会议的结果，决定派黄杰为湖南省政府委员兼主席，并兼任湖南绥靖总司令和第一兵团司令官两项军职。当时，林彪所辖的两个军，已经打到衡阳附近，到八月下旬，整个华中战场，解放军已集结了十九个军，五十五万人，分三路向西南进攻。当黄杰获悉行政院这项决定时，多年后曾自承：“我的感觉，万分惶恐。就目前军事政治各方面的态势来说，可以形容为‘百孔齐穿，千疮并溃’。在这样危疑震撼的状况下，去接受如此艰巨的任务，内心感到万分惭惶。”国民党内原有一些孤臣遗老，怀抱“受任于败军之际，奉命于危难之间”的孤忠愁绪，诚惶诚恐而又忠实地执行上级的命令，黄杰就是其中一位，他接受了回湖南工作的任命。
事实上，任何人面对这样的局面很难不感到惶恐，国民党自知败局已定，战略重心已转至台湾，留在大陆各部已无太大作用，只期待能尽量撤出兵员和武器，将力量集中在台湾一地。因此，黄杰真正能做的与其说是与解放军作战，不如说是把仍然忠于国民党的军队带出大陆。这项工作并不容易，因为真正的国民党大官早就带着家眷搭乘飞机，一批批地飞往台湾安置，像黄杰这种直接带兵的将领只能坐吉普车，甚至徒步带着大堆人马东逃西窜，稍一不慎就会沦为战俘。这时已是1949年12月了——换句话说，国民党军南窜途中，新中国已经成立了，这一消息，对于这批前朝败军来说，无疑是一记沉重的打击。新的强大的统治力量已经产生，国民党人曾有的辉煌现已消失殆尽，当毛泽东在天安门城楼上宣布“中国人民站起来了”时，流窜于西南山林之间的黄杰想必是别有一番滋味在心头。在与辽沈战场、淮海战场撤下来的老兵接触当中，黄杰总是满怀信心地告诉他们，撤退只是暂时的，他们很快就可以打回中国。然而黄杰直到1995年在台北去世，再也没能回到中国大陆。打回老家的豪语变成了现实的迷惘、儿孙枕边的故事和遥远的、逝去的伤感。
【集中软禁】
1949年12月13日，西方人最忌讳的一天，晚间八时左右，应凉山边防军司令部之约，黄杰携带简单的行李，率一名随从，乘法方军车到达凉山。到凉山后才发现何竹本参谋长等仍滞留凉山未动。因天色已晚，法方派军官阿麦勒上尉（Captain Ameil）接待他们，安置他们住在一家民房内。
凉山在越南北部，是一座比较重要的都市，北通广西南宁，南至河内，有公路与铁路。当时已被胡志明领导的越南民主同盟毁坏，不能通车。此地也处在一片风声鹤唳中，状似安定的背后，隐现出一片恐怖与肃杀的战时气氛。
次日上午九时，阿麦勒上尉陪同黄杰与何竹本等去访晤法驻凉山边防军司令韦加尔上校（Colonel Vicar）。黄杰直接地提出残军接运上船的一些问题，请其答复；但韦加尔上校却只是闪烁其词，答非所问。黄杰想到也许是因为他的职务原因，不能答复职权以外的问题，于是决心去河内一行，探其究竟。黄杰嘱咐何竹本参谋长立即返还禄平，因法方派不出交通工具，二人都在凉山躭搁了两天。
十五日，阿麦勒上尉来告，在禄平宿营的残军部队，已由法方派出汽车一百五十辆，运送到那丁。（后来黄杰得知法方车队仅是收容沿途落伍的伤病官兵及眷属妇孺，部队仍是徒步行进。）
十六日，法方转来兵团副参谋长范湖少将电报一件，报告部队已抵达先安，等候黄杰司令官的命令开拔。
黄杰以何参谋长名义，向法方边防军参谋长康士登上校提出了一件备忘录，洽询的内容是：
一、我军何时可撤离越境？此问题在谅山能否解决？抑须至河内解决？
二、需用船只，贵方可否派出？
三、根据双方在峙马屯的协定，军用无线电机，希望能即刻发还。
四、黄将军希望交付贵方的武器，能在离埠时发还。
五、我军上船后的给养，贵方是否可以补给？
六、我们不便在此久留，请派车送至先安。
不久，黄杰即得到了康士登上校的答复：
一、运输船只、武器、通信器材等问题，须至河内才可解决。
二、明日可能派飞机送黄将军赴河内。
十六日十二时，黄杰偕同何竹本参谋长等乘法方专机由凉山飞河内，十二时五十分到达。
河内是一座有着千年悠久历史的古城，有着自然、质朴的美。这里四季树木葱郁，鲜花常开，大小湖泊遍布，文物荟萃，古迹、寺庙众多。这座城市总在不经意间透露出与许多中国城市的惊人相似之处，如区域分为内城（市区）和外城（郊区），内城历史上为紫禁城、皇城和京城所在地；河内最大的湖泊西湖堪称是中国杭州西湖的姊妹篇；建于1070年的文庙是供祭儒家先师孔子的地方。
河内也是越南北部最大的城市，也是北圻的政治中心。位于红河下游，为一广阔的平原地带，盛产谷米。交通也极便利，北到凉山，南达海防，均有公路铁路；其中滇越铁路，可通中国云南的昆明。市区有许多19世纪法国式建筑，带有浓厚的西洋色彩。法国驻越北专员公署，就设在这里；中国也设有总领事舘，总领事为刘家驹。
专机抵达河内时，法方派有军官在机场照料，稍事休息后，黄杰即驱车往访专员公署参谋长韦尔登上校（ColonelRedon）。在其寓邸，黄杰首先对法军当局协助其部队进入越境，表示谢意；继而提出部队转运台湾的许多问题，要求逐一作答。不料，韦尔登上校竟也和凉山边防军司令韦加尔上校一样避作正面答复，处处闪烁其词，只不断表示欢迎黄司令来河内，一派空洞的外交口气，使人摸不清他葫芦里卖的什么药。最后韦尔登上校以略带恐吓的口气对黄杰说，河内潜伏的越盟分子很多，必须顾虑其人身安全，法方在道义上应该尽到保护的责任，要求他在行动上务须保守秘密。这一毫无意义的会谈结束之后，专员公署的华务处长欧芝耶上尉（Captain Adgves）送黄杰到黄阿里文路二十五号去歇息。
黄阿里文路二十五号是一座两层的西式洋楼，室内久已无人居住，四壁结满蛛丝尘网，显得异常冷落。不久法方搬来了被褥用具，同时进驻了一班非洲黑人士兵，说是担任黄杰的警卫。黄杰忽然想到，从凉山到河内，和法方军官几度接触，他们都对问题的重心避而不谈，难道局势有变？蓦地心头抹上一层阴影，那班面目漆黑的非洲士兵，仿佛就是黑暗来临的象征。事实上，黄阿里文路二十五号就是软禁他的地方，也是他生平开始尝到没有自由空气的地方。
十七日清晨，据从刘家驹总领事那里传来的消息说，先安方面的部队与眷属，已开拔到鸿基。刘总领事还说，自国民党军进入越境后，解放军约有三万余人的部队在芒街附近集结，似有跟踪追击的可能。法方在越南的负责人，唯恐解放军进入越境，对这支国民党残军的行动不能作决定，正向巴黎请示，目前要按国际公法，把国民党军暂时软禁。
下午五时半，刘家驹来访，黄杰对他说：“我军进入越境，事先在峙马屯与法方签有协定，已获得法方在公文书上的同意，准许我们借道海防，转运台湾，这是需要双方都要遵守的！如果我不重视协定的要求，完全也可以不向法方交出武器，武装入越，以越南为基地，在滇桂边境搞游击战争。法方为什么迟疑不定呢？难道还会反复吗？”刘家驹说：“国军入越后，中共周恩来就向法方广播，责备越南法军不应准许我军入境，并且恐吓法方要负起战争的后果。巴黎方面异常恐惧，所以才有软禁我军的举措。”
事实上，解放军追击残军至爱店停住脚步不久，新中国总理周恩来即透过广播，谴责在越南的法军不应同意国民党军入境，并且要求法方负起所有的责任。尽管新中国政府对法方表示严重抗议，不过这支国民党残部毕竟已解除武装，离开国境，实质上对中国不构成任何威胁。尽管如此，法国方面仍谨慎从事，国民党政府已彻底垮台，美国态度暧昧不明，这意味着台湾被解放军攻下已指日可待，因此，此刻明目张胆地冒犯新中国政府并不适当。所以，黄杰进入越境不久即感到法方代表闪烁其词的态度，接着被软禁。根据法方的情报，解放军正在芒街一带集结，展现军事力量。法方颇有压力，他们软禁黄杰以及限制国民党徒手官兵的行动，应是一项向新中国示好的动作。
这个不幸的消息让黄杰忧愤交并。法方竟如此不讲信义，违背双方的协定，把软禁入越国民党军，作为缓和中共对越南颠覆行动的筹码！然而事态演变到这个地步，个人的荣辱事小，如何争取这几万人的出处前途，才是最重要的责任。一定要忍耐，要冷静，勇敢地面对现实，来应付险恶的处境，黄杰一再提醒自己。
十二月十八日黄杰派外事处长毛起鶊赴西贡，洽询真实情形，而毛处长却一去便消息全无。
重门掩幽寂，清影孤灯伴。宿鸟闻惊梦，流水乱山远。悲风苦雨长，天涯残梦短。
黄杰只好用笔书写自己的命运，笔底一片凄风苦雨。
此时，最让黄杰关心的是部队的行动，一个指挥官脱离了他的部队，正如一个母亲脱离她的孩子，眞可说是神牵梦萦。此外，他的妻儿一直未随部队行动，现在也不知逃至何处？儿女私情，不禁怃然入怀。抚今忆昔，满怀惆怅，只能以填词聊解胸中悲苦：
初来异域，顿觉离奇。寄宿人空庭院，似侯门，深锁重闱。蛛丝挂壁，堆尘满几，阴雨霏霏。了不知，南北与东西。逐客今何似？底事教人迷。镇日里，重衾独拥，驹光过隙，抽针自补衣。回想当年匹马，纵横河洛，时势岂全非？……为道干戈犹未已，只恐误归期。关山迢递夜何其。思量泪暗滋。
十二月二十一日，欧芝耶上尉偕同刘家驹总领事前来黄阿里文路二十五号，陪黄杰往访法国驻越南北圻专员亚力山里将军（GeneralAlissandris）。亚力山里将军颇诚恳地告诉黄杰，说集中软禁中国入越军队，是巴黎方面依照国际公法所作的决定，请他暂时忍耐，并对他表示歉意。
既然集中软禁的决定来自巴黎，驻越法方自然无权作其他改变。因此，黄杰未再向亚力山里将军申述转回台湾的要求，只是就部队急待解决的一些事项提出商讨。商讨的结果如下：
一、人数太多，分区驻扎。
二、补给由法方负责。
三、警卫事宜，营区内由我方自行负责，营区外由法方担任。
四、法方决定派沙如上校负责处理法方对营区的事务。
最后，黄杰希望能即刻转赴鸿基，视察部队。因为残军部队只知假道回台，并不了解入越后要遭受集中软禁，失去行动上的自由；假若失去了指挥官，这一批久经战阵的官兵无人节制，必将产生恶劣后果，增加法方许多麻烦。亚力山里答应了他的要求，说日内即可成行。
十二月二十一日适逢黄杰四十八岁生辰。一早起来，何竹本参谋长等向他祝贺，然后恭立在一旁默然无语，脸上一副凄苦的表情。黄杰心境也为之沉郁，一番感触，悲从中来，竟呜咽不能自已！二十二日上午八时，欧芝耶上尉来访，陪同黄杰与何竹本等至专员公署，会同沙如上校（ColonelSayiawh）乘车赴海防。
在河内盘桓近一周，期间，黄杰感觉真是度日如年，漫长而且凄苦！
十二月二十二日下午二时，黄杰一行抵达海防，法方预先租定了奔埠街商务酒店为他下榻之所。次日上午八时，沙如上校陪黄杰乘专用汽轮赶赴宫门。
汽轮沿着海岸驶去，驶到亚龙湾。亚龙湾绵亘数十里，岩石壁立插天，惊涛拍岸，怒卷霜雪。出亚龙湾，一路则沙鸟翔集，风帆点点，烟波浩渺，渔歌互唱。然而临风回首，百结柔肠，黄杰却无心欣赏这大好景致。
下午四时，到达宫门。宫门位于南海之滨，是煤矿区的一个小市镇。越南北部以其产煤量名闻远东，这小市镇便是煤炭外运的基点。此地有一些华侨，大都经营商业。宫门码头设备完善，万吨以上的巨轮可以进出自如。
法军指定宫门北面的蒙阳与西面来姆法郎为残军两个集中区域，原来自十二月十七日以后，入越的部队已分别集中到这两个地方。黄杰被指定留驻宫门。
到达宫门后，黄杰即偕同何竹本参谋长及沙如上校，前往蒙阳营区视察。自得到部队将集中软禁的消息后，黄杰只想到必将遭遇不少的困难与阻碍，法方如此苛酷的虐待，生活环境如此之差，则大大出乎他的意料之外。
车子停在营区的外面，黄杰一步一步踏进那片污秽脏乱的广场。官兵们见到了久违的长官，顿时爆发出一片哭声，震撼了营区每个角落。那种又悲又喜的情景，就如失散的孤儿，骤然碰上了亲人。此时，黄杰也热泪盈眶，嘴嗫嚅着，竟说不出一句对他们安慰与劳问的话来。为了避免彼此间感情的过度哀伤，绕场一匝之后，即折返宫门。
在来姆法郎集中营的国民党残军境遇比蒙阳的要好一些，他们多是被武鸿卿收编的越南建国军。当时国民党败残军是分两路先后入越的：一路是黄杰率领其第一兵团于十二月十三日经思乐县的爱店先入；另一路是武鸿卿统率由各部败散官兵临时仓猝编成一师一旅的越南建国军，于十二月廿一日经龙州的水口关后入。
武鸿卿为越南国民党领袖，当时流寓广西，被白崇禧收纳、援助。由于残军各部渡海赴海南岛不成功，只好往越南，白崇禧决定将这些残余部队组织越南志愿军，以武为总司令，徐启明副之，政治上拥护保大，军事上与法军合作，共同对付胡志明领导的越共。但黄杰所部被解放军追迫甚急，未接到改编命令，已入越向法军缴械。徐启明在上思战斗中被冲散，未能到龙州就职。所以武鸿卿只将第三、第十、第十一、第十七各兵团以及华中长官公署直属部队、国防部突击总队、桂西师管区等逃到龙州的零星部队收容整编，未经参战尚属完整的广西省政府警卫大队也被编入，且成为这一路的主力，由武鸿卿个人统率入越。
