多目标贝叶斯优化新思路：先收敛后多样化

在昂贵黑箱函数的优化场景中，多目标贝叶斯优化（MOBO）一直被视为样本效率最高的技术路线之一。它的目标并不复杂：在尽可能少的函数评估次数下，得到一组高质量的候选解，尽可能逼近真实问题的 Pareto 前沿。然而，所谓“逼近”其实包含两个彼此拉扯的指标，一是收敛性，即解集距离真实 Pareto 前沿有多近；二是多样性，即这些解在前沿上铺得有多开。

长期以来，主流 MOBO 方法都试图在同一轮搜索中同时完成这两件事：一边把搜索方向拉向 Pareto 前沿，一边维持一组互不支配的解以保持覆盖面，理想情况下让解集逐步逼近整条前沿。当评估预算充足时，这种“同时兼顾”的策略确实有效，但它的代价是设计复杂度高。收敛与多样性之间存在天然的张力，要在每一轮采样中都平衡好两者的权重，需要精心设计的采集函数与选择机制。

真正的问题出现在预算非常紧张的时候。论文作者指出，在极其有限的评估次数下，搜索过程根本没有足够的采样机会去同时逼近整条 Pareto 前沿。换句话说，在预算耗尽之前，算法可能既没有收敛到前沿，也没有铺开覆盖面，最终两头落空。这一矛盾在高维问题中会被进一步放大，因为搜索空间随维度增长而急剧膨胀，每一次评估都显得格外珍贵。

针对这一困境，论文提出了一种名为“先收敛后多样化”（Converge Then Diversify，简称 CTD）的方法，核心思想是把原本纠缠在一起的两个目标拆开，分阶段处理。第一阶段只关心收敛性，算法把全部搜索能力集中用于快速把解推向 Pareto 前沿上的某一个点，不追求覆盖面，只求尽快贴近前沿。第二阶段则切换到多样性目标，在已经建立的前沿锚点基础上，把解逐步铺展到前沿的其他区域，从而形成一组分布良好的非支配解。

这种“解耦”的思路并不依赖某个特定的采集函数，作者用领域内被广泛采用的采集函数给出了两个简洁的 CTD 实例化实现。这意味着该方法可以作为一种通用策略，叠加到已有的 MOBO 框架之上，而不是要求研究者彻底更换整套优化工具链。对于工程实践中已经部署贝叶斯优化流程的团队来说，这种低侵入性的改造方式具有相当的现实吸引力。

实验结果支持了这一设计。论文在全部 446 组两两对比中统计了 CTD 与当前最先进方法的性能差异：CTD 在 72.9% 的案例中取得统计意义上的胜出，在 21.1% 的案例中表现相当，仅在 6.1% 的案例中明显落后。作者特别强调，这一优势在评估预算极其紧张的场景以及高维问题中表现得尤为突出，而这恰恰是传统“同时兼顾”策略最容易失效的区间。

从方法论角度看，CTD 的价值在于它重新审视了一个被默认接受的假设：收敛和多样性是否必须在同一阶段内被同时优化。作者给出的答案是否定的。当预算不足以支撑全局并行推进时，把有限的采样机会分段投放，反而比全程折中更有效率。这一思路对其他需要在资源受限条件下平衡多个冲突目标的优化问题，也提供了可借鉴的范式。该论文发布于 arXiv 计算机科学人工智能分类，为多目标优化的预算受限场景提供了一条结构清晰、实现简单的新路径。