【论文研读】基于对偶种群的约束多目标优化进化算法

基于对偶种群的约束多目标优化进化算法

A Dual-Population-Based Evolutionary Algorithm for Constrained Multiobjective Optimization

• 最近我在学习约束多目标问题的论文，其中由明博士和张教授发表在TEVC上的c-DPEA非常不错~
• 此篇文章为 M. Ming, A. Trivedi, R. Wang, D. Srinivasan and T. Zhang, "A Dual-Population-Based Evolutionary Algorithm for Constrained Multiobjective Optimization," in IEEE Transactions on Evolutionary Computation, vol. 25, no. 4, pp. 739-753, Aug. 2021, doi: 10.1109/TEVC.2021.3066301. 的论文学习笔记，只供学习使用，不作商业用途，侵权删除。并且本人学术功底有限如果有思路不正确的地方欢迎批评指正！

摘要

• 约束多目标优化问题（CMOPs）的主要挑战是适当地平衡收敛性、多样性和可行性。它们的不平衡很容易导致约束多目标进化算法（CMOEA）无法收敛到具有多种可行解的帕累托最优前沿。为了应对这一挑战，我们提出了一种基于双种群的进化算法，称为c-DPEA，用于CMOPs。c-DPEA是一种合作协同进化算法，它维护两个协同互补的种群，称为种群1和种群2。在c-DPEA中，设计了一种新的自适应惩罚函数，称为saPF，以保留种群1中的竞争不可行解。另一方面，种群2中不可行的解采用面向可行性的方法处理。为了在c-DPEA中保持收敛性和多样性之间的适当平衡，开发了一种新的自适应适应度函数bCAD。在三个流行测试套件上进行的大量实验全面验证了c-DPEA的设计组件。与六种最先进的CMOEA的比较表明，c-DPEA在大多数测试问题上明显优于或可与竞争者算法相媲美。
• 关键词：协同进化对偶种群，约束多目标优化，收敛性，多样性，可行性。
• Coevolutionary dual populations, constrained multi-objective optimization, convergence, diversity, feasibility.

1.Introduction

• 受约束的多目标优化问题 (CMOP) 在许多工程应用中经常出现。其可以被建模为

G是不等式约束，h是等式约束，因此对于第j个约束的约束违反可以用CV进行表示如式子(2),对于所有约束的违反可以使用式子（3）进行表示。对于决策向量，可行解是指总体约束违反是0 对于两个可行解，x1支配x2,当且仅当x1的所有等式约束小于等于x2, 存在一个x1的不等式约束小于等于x2

• 进化算法经常被用来处理这些问题，因为它们已经证明了它们在解决无约束多目标优化问题（MOP）方面的优势[4]。然而，CMOPs 通常比不受约束的 MOPs 更具挑战性。例如，约束可以使很大一部分搜索空间不可行，将可行空间划分为狭窄的断开区域，和/或使无约束 MOP 的 PF 部分或完全不可行 [5]。因此，PF 可能断开和/或 Pareto 最优解可能位于可行域的边界上，导致算法难以获得所需的解集
• CMOPs 的主要挑战之一是平衡可行和不可行区域之间的搜索。然而目前的大多数的CMOEAs在不调整参数的情况下不能取得好的平衡。无论是可行性导向算法（例如，约束支配原则导向的算法 [6]、[7]）还是不可行性辅助算法（例如，不可行性驱动进化算法 [8] 和基于随机排序的 MOEA/D [7]）。最近，随着合作协同进化框架在无约束优化和全局（单目标）优化中显示出有效性，一些研究人员试图将合作机制扩展到解决 CMOP。到目前为止，已经提出了一些算法，包括 CCMODE [9]、C-TAEA [10] 和 CCMO [11]。它们表明了一个有前途的研究方向，但仍然没有充分利用信息不可行的解，导致一些 CMPOP 的性能不佳。为此，本文将填补研究空白。
• 解决 CMOP 的另一个挑战是收敛和多样性之间的平衡。尽管同等重要，但现有算法采用的共同原则是“先收敛后多样”，例如 C-NSGAII [6]。这样的算法可能会卡在 PF 的一个容易找到的部分，因为收敛性相对较差但有助于良好多样性的解很容易被忽略 [12]。因此，需要在收敛性和多样性之间进行更好的权衡，特别是在断开和离散的可行区域的问题中。
• 为了平衡 CMOPs 的收敛性、多样性和可行性，本文提出了一种新的基于双种群的进化算法，称为 c-DPEA。作为一种协作协同进化算法，它包括两个协作互补的种群，即 Population1 和 Population2。c-DPEA的主要特点如下。1）c-DPEA 中的两个群体清楚地处理不可行的解。具体来说，Population1 中的不可行解由一种新颖的自适应惩罚函数处理，该函数旨在保留具有竞争力的不可行解，即具有良好目标值和低约束违规的解。相比之下，Population2 使用以可行性为导向的方法，使可行的解优于不可行的解。2）Population1 和 Population2 旨在以互补的方式运行。c-DPEA 中两个种群的互补性有助于 Population1 方便地穿越不可行区域并帮助 Population2 有效地接近 PF。3）这两个种群通过在后代产生过程中交换信息进行合作。由于合作，每个种群都可以利用另一个种群携带的有用信息，从而更有效地进化。4）为了更好地平衡收敛性和多样性，设计了一种名为 bCAD 的新自适应适应度函数。两个群体的每个成员都被分配了两个排名。一个排名强调收敛第一，多样性第二，而另一个排名强调多样性第一，收敛第二。bCAD 通过权重整合这两个排名，权重随着演进的进行而动态变化。
• 本文的其余部分组织如下。第二部分介绍了文献综述和提议的 c-DPEA 背后的动机。第三部分详细描述了 c-DPEA。第四节简要介绍了基准问题并列出了用于基准的最先进的 CMOEA。第五部分全面研究了 c-DPEA 的设计组件，并在 27 个具有挑战性的 CMOP上 和7 个最先进的 CMOEA 进行了对比。第六节介绍了结论和未来的方向。

2. LITERATURE REVIEW

• 早期的约束处理技术 (CHT) 可大致分为：1) 面向可行性的方法 [6]、[13]；2）基于惩罚函数的方法[14]；3）随机排序[7]；4) epsilon-约束方法[15]；5）基于多目标优化的方法[16]；6）混合方法[17]。其中，第一类CHT过分偏爱可行解，容易导致早熟收敛。第二到第四类需要微调参数以平衡可行和不可行区域的搜索。第五类 CHT 通常会增加算法的计算复杂度。混合方法可以增强算法的能力，但它们也需要为每种采用的技术定义参数值[18]。
• 为了更好地平衡目标和约束，一些研究人员提出了新的排名方法。例如，宁等人。[19] 提出根据其帕累托等级和约束等级对每个解进行排序。此外，提出了一种名为 ToR [20] 的新适应度函数，该函数基于两个排名的加权和来评估解的适应度，并嵌入到 NSGA-II 中。一种排名基于约束支配原则[6]，而另一种基于不考虑约束的帕累托支配。此外，提出了一些新的搜索策略来解决 CMPOP。例如，PPS-MOEA/D [21] 将搜索过程分为推拉阶段。具体来说，它在第一阶段采用 MOEA/D [22] 在不考虑约束的情况下探索搜索空间，然后在第二阶段使用改进的 α-约束方法将解拉向 PF。另一个名为 ToP [23] 的两阶段框架首先通过将 CMOP 转换为单目标问题来找到有希望的可行区域，然后通过特定的 CMOEA 获得最终解。
• 在过去的几年里，一些研究人员一直致力于开发用于解决 CMOPs 的协同进化框架，这得益于协同进化机制在其他领域（如大规模优化）的成功 [24]。读者可以参考[25]了解更多的协同进化机制。尽管它们的性能很好，但它们中的大多数不能直接应用于 CMPOP，因为这些研究主要集中在复杂问题的无约束优化和/或全局（单目标）优化。为了将它们扩展到CMOP领域，提出了一些算法。例如，王等人[9] 提出了一个协作差分进化框架（称为 CCMODE），它共同进化 m 个子种群和一个存档种群，用于解决受约束的 m 目标优化问题。CCMODE 中的每个子群体只需要优化一个指定的目标.
• 同年，提出一个名为C-TAEA的协同合作双档案CMOEA。在 C-TAEA 中，一个档案 [名为收敛性导向档案 (CA)] 保持收敛性和可行性，而另一个档案 [名为多样性导向档案 (DA)] 通过探索 CA 未充分利用的领域来促进多样性。它的更新机制是MOEA/D-M2M[26]中使用的非支配排序和密度估计方法的结合。在 [11] 中，提出了一种名为 CCMO 的基于双种群的协同进化框架，其中一个种群解决了 CMOP，而另一个种群解决了 CMOP 的无约束版本。值得注意的是，与现有协同进化算法中的合作相比，CCMO 中两个群体之间的合作要弱得多。
• 讨论：上述算法中，特别值得一提的是C-TAEA和CCMO。C-TAEA 采用 多样性存档DA 以合作方式补充收敛性存档 CA。由于 CA 倾向于可行的解，而 DA 主要旨在提高多样性，因此寻找具有良好目标的不可行解是相当有限的。因此，向前探索的力量不够，可能导致搜索受到不可行区域的阻碍。至于 CCMO，一个群体在其进化过程中完全忽略了约束。因此，CCMO 可能擅长寻找接近无约束 PF 的解。这样的解可能有助于增强 CCMO 在某些问题上的收敛能力。然而，在 PF 位于约束边界上的问题的情况下，接近无约束 PF 的不可行解可能没有帮助。

3. CONSTRAINED DUAL-POPULA TION EVOLUTIONARY ALGORITHM: C-DPEA

• 本节介绍了所提出的约束双种群进化算法，称为 c-DPEA。c-DPEA的一般流程图如图1所示。c-DPEA是一种协同进化算法，它以协作的方式进化两个种群，即Population1和Population2。这两个群体之间的区别在于对不可行解的处理，并在第 III-A 节中进行了讨论。c-DPEA 涉及一种用于平衡收敛性和多样性的新自适应适应度函数，即 bCAD，在第 III-B 节中介绍。第 III-C 节讨论了两个种群相互作用和协作的后代繁殖步骤。此后，第 III-D 节描述了这两个种群的环境选择机制。最后，在第 III-E 节中介绍了 c-DPEA。
• 值得注意的是Population 1和 Population 2 的种群大小都是N，并且子代种群的大小也是N。

3.1 Handling of Infeasible Solutions

Handling of Infeasible Solutions in Population1

（自适应罚函数法）

• 为了利用与目标函数和不可行解的约束违反相关的信息，设计了一种称为 saPF 的无参数自适应惩罚函数来处理 Population1 中的不可行解。
• 在介绍saPF之前，我们先解释一下“次区域”的概念，以便于理解。具体来说，可以通过 N 个权重向量将目标空间划分为 N 个不重叠的子区域。

• 对于每个不可行解，他的目标向量都被修改为：

• 这个公式带比例而且是一个指数类型的公式。随着t逐渐增大到T/2,此时指数项越来越小，
• 为了便于理解，图 2 描绘了在 saPF 处理 Population1 中一个测试问题的不可行解之前和之后的解分布，具有两个不同的值。saPF 的显着特点如下。
• 自适应性： saPF，顾名思义，本质上是自适应的。除了目标函数和约束违反之外，β 在评估惩罚项方面也起着重要作用，它可以根据当前的进化状态进行自适应。等式（7）表明，β随着代数的增加而减小，另一方面，如果与 Population2 中的解相比，Population1 中的唯一解较少，则 β 会增加。Β越大，对于非可行解的选择压力越小，而且修改过后的目标向量会离原向量越近~。

• 增强不可行解的竞争力： 修改所有不可行解，使得修改后的目标向量 F‘(xi) 位于 F(xi) 和 Fmaxi 之间，并且它与 F(xi) 的距离与惩罚项的值成比例。修改后，一些不可行的解可以不支配甚至支配一些可行的解（见图2）。
• 保证了种群的多样性： 由于 Fmaxi 是与 F(xi) 相关的子区域内的最大目标向量，因此任何不可行解的修改目标向量与原始目标向量位于同一子区域。从图2可以看出，不可行解的修正目标向量广泛分布在目标空间中。因此，saPF 有助于维持种群1的多样性。
• 总体而言，由于saPF的应用：1）不可行解的惩罚项可以根据约束违反、种群分布和进化状态进行自适应调整；2) 增强不可行解的竞争力，特别是那些具有良好目标向量和低约束违规的解；3）不可行解的修正目标向量广泛分布在目标空间中。

Handling of Infeasible Solutions in Population2

• 如图 1 所示，c-DPEA 返回 Population2 作为输出。为了保证输出解的可行性，Population2 采用类似于 C-NSGA-II [6] 的可行性导向方法。

• 例如，图3说明了种群2中处理非可行解的原则。所有非可行解的修改后的目标向量都被Fmax支配并且排成一行。因此，所有不可行的解在修改后都被可行的解所支配。因此，这种方法是以可行性为导向的。虽然一些不可行解原本具有良好的目标函数值并且接近可行域，但在 Population2 中它们不如可行解更受欢迎。

• 备注： 由于提出的 saPF，Population1 可以保留和利用有希望的不可行解，即具有良好目标向量和低约束违规的解。相反，Population2 是以可行性为导向的。它忽略了不可行解中可能固有的有用信息。然而，它保持了迄今为止发现的具有良好目标向量的可行解。因此，双重种群在处理不可行的解时本质上是互补的。这种互补性是 c-DPEA 的主要优势之一。这些特征将在后面的第 V -A 节中说明。

3.2 Fitness Assignment （选择方法Selection）

• 在每一代中，Population1 和 Population2 都根据一个名为 bCAD 的新自适应适应度函数分别分配适应度。为了更好地平衡融合和多样性，它设计了两个排名——Rc和Rd，分别有利于“收敛第一，多样性第二”和“多样性第一，收敛第二”。bCAD 的伪代码如算法 1 所示。在解释 bCAD 适应度函数之前，我们首先讨论 bCAD 所基于的两个排名。
• Rc——这个排名遵循收敛第一和多样性第二的原则。通过非支配排序[6]将解分类到不同的前沿，并且基于它们的密度估计对同一前沿内的解进行分类[28]。如 [29] 中所述，如果使用拥挤距离估计器，当目标数量超过两个时，个体密度的估计可能不正确。因此，对于每个解，例如 xi，其密度估计值被设置为 F(xi)（即 xi 的目标向量）与其在目标空间中的第 k 个最近邻之间的欧几里得距离，其中 k 是考虑的人口规模。然后，每个解，例如 xi，获得表示为 Rci 的排名。较低的 Rci 值代表 xi 在此排名方面的更好表现。算法 1 中的第 1-5 行介绍了其计算步骤。
• Rd——该排名旨在保留尽可能多的不同子区域中的解，解首先根据 (4) 与不同的子区域相关联。在每个子区域内，相关的解根据它们的加权和 gWS [22] 归一化函数值后按照升序排列。

• 这个level的概念，是除了算法以外第一次在文章中出现。根据算法1，level应该是综合了Rd和Rc后重新排序的序号值。
• bCAD的计算方式如下所示：

• 虽然随着α的增加，bCAD逐渐向Rc倾斜，但一直到最后都在考虑对Rd的重视。这种对多样性的明确关注可能会阻止解早期聚集在一个小区域中，并有助于最终获得一组分布良好的解。随着进化的进行，分配给 Rc 的权重接近 1，而 Rd 对应的权重接近 0，因此 c-DPEA 可以很好地收敛。

3.3 Offspring Reproduction

• 这两个种群在后代繁殖步骤中合作。在每一代结束时，两个种群合并成一个大小为 2N 的组合种群。然后，应用二元锦标赛选择从组合种群中选择交配父母。在此，比赛进行了2N次。在每场比赛中，从组合人口中随机选择两个解，并根据 bCAD 分配的排名进行比较。然后将具有更好排名的解插入到交配池中。请注意，如果两个解具有相同的排名，则随机选择一个解。相应地，创建了一个大小为 2N 的交配池。一旦构建了交配池，使用模拟二元交叉[30]和多项式变异[31]算子创建大小为 N 的后代种群。

3.4 Environmental Selection

• 对于种群1和种群2的环境选择方法分别在算法2和算法3中展示

3.5 c-DPEA Algorithm

4.EXPERIMENTAL SETUP

4.1 Test Problems

• Benchmark test suites: CTP [32], MW [5], C-DTLZ [33]
• CTP 是最著名的 CMOP 测试套件之一。例如相应的无约束 MOP 的 PF 部分或完全不可行、断开的 PF 等。
• 最近提出了 MW，涵盖了从现实世界 CMOP 中提取的各种特征，例如小可行性比、非线性约束、收敛困难、不同几何形状的受约束PF等。
• C-DTLZ 问题可扩展到任意数量的目标，并且还为优化器提供不同类型的挑战。
• 根据无约束 PF 和真实 PF（即约束 PF）之间的关系，可以将测试问题分为四种不同的类型 [5]。请注意，无约束 PF 表示不考虑约束的 PF。

Type-I:

• 真正的 PF 与无约束的 PF 相同。MW2、MW4、MW14、C1-DTLZ1 和 C1-DTLZ3 是 I 类问题。

Type-II:

• 不可行区域使无约束 PF 部分可行，而真正的 PF 是无约束 PF 的一部分。CTP7、MW1、MW5、MW6、MW8 和 C2-DTLZ2 是 Type-II 问题

Type-III:

• 不可行区域使无约束的 PF 部分可行。受约束的 PF 由一部分不受约束的 PF 组成，而剩余的帕累托最优解位于可行区域的边界上。CTP1、MW3、MW7、MW10 和 MW13 是第三类问题。

Type-IV:

• 无约束的 PF 是完全不可行的，所有的帕累托最优解都位于可行区域的边界上。CTP2–CTP6、CTP8、MW9、MW11、MW12、C3-DTLZ1 和 C3-DTLZ4 是 IV 型问题。

4.2. Algorithms for Comparison and Parameter Setting

• For performance comparison, six state-of-the-art CMOEAs, namely, C-NSGA-II [6], ToR-NSGA-II [20], C-MOEA/DD [27], PPS-MOEA/D [21], C-TAEA [10], and CCMO [11] are considered. The characteristics of these algorithms are discussed in Section II. The parameter settings are described in Section S-III in the supplementary material. It is worth noting that all the experiments in this article are conducted on the PlatEMO platform proposed in [34].

5. EXPERIMENTAL RESULTS AND DISCUSSION

• 在本节中，在将提议的 c-DPEA 与最先进的 CMOEA 进行比较之前，将对 c-DPEA 的设计组件进行彻底研究。首先，在第 V -A 节中检查了 c-DPEA 中双重群体的行为。随后，在第 V -B 节中分析了 c-DPEA 中协作协同进化方法的有效性。此后，saPF 与其他自适应惩罚函数相比的性能在第 V-C 节中进行了探讨，并且在第 V-D 节中研究了所提出的 bCAD 适应度函数的功效。最后，在第 V-E 节中，将 c-DPEA 与六种最先进的对等算法进行了比较。

5.1 Investigation Into Behavior of Dual Populations in c-DPEA

• 在本案例研究中，我们彻底调查了 c-DPEA 中两个群体的行为。如第 III-A 节所述，Population1 和 Population2 之间的区别在于它们对不可行解的不同处理。Population1 采用自适应惩罚函数，Population2 采用可行性导向方法。 为了观察不同处理不可行解的影响，我们记录了在不同问题的进化过程中两个群体中保留的不可行解的数量，绘制在补充材料的图 S-5 中。相应的观察结果如下。

1. 两个种群在探索搜索空间方面是互补的。Population1 可以在所有问题的不同进化阶段保持不可行的解，甚至直到最后。相反，如果初始种群在大多数 CTP 问题中是可行的，那么 Population2 在整个演化过程中几乎不会保留任何不可行的解。如果种群从不可行空间开始，如 MW 问题，则 Population2 仅保留不可行解，直到种群进入可行区域。进入可行区域后，Population2 迅速弹出所有不可行的解，然后主要演化可行的解。总体而言，观察到 Population1 可以广泛保留不可行的解，从而探索不可行的区域。另一方面，Population2 是可行性导向的，其重点主要是探索可行区域。
2. Population1 中保留的不可行解的数量随进化阶段而变化，并且因问题而异。具体来说，在早期，CTP 问题的数量为零，而 MW 问题的数量接近人口规模。这是因为初始种群在前一种情况下通常是可行的，而在后一种情况下是不可行的。由于搜索空间中可行和不可行区域的几何形状因问题而异，在其他演化阶段，Population1 可以根据问题和演变来自适应保留的不可行解的数量。
3. 就 Population1 中保留的不可行解的数量而言，许多问题都有一个共同的模式。具体来说，在第 250 代之后（即进化的中期），Population1 中保留的不可行解的数量有所下降。这是因为如前所述，对不可行解的选择压力在进化的前半部分可能较低，而在进化的后半部分则较高。

• 为了进一步研究这两个群体的行为，我们在不同问题上检查了群体在目标空间中的运动。图 4 以 MW12 为例说明了目标空间中两个种群在不同世代的行为。MW2、MW5 和 MW13 问题在图 1 和图 2 中给出了类似的图。补充材料中的 S-6–S-8，分别。从这些图片中，我们有以下观察结果。

1. 通过保留不可行的解，Population1 可以充分地在不可行的区域中导航。读者可以参考 Population1 的位置，并与 MW12 在 25 代和 50 代时 Population2 的位置进行比较（见图 4）。观察到在第 25 代和第 50 代之间，Population1 能够有效地克服 MW12 问题中的不可行障碍。Population1 的这种能力可防止 c-DPEA 陷入不可行的区域。
2. 在后期，即使不可行解的选择压力增加，Population1 仍然能够保持有竞争力的不可行解。Population1 可以越过真实的 PF，然后帮助从 PF 的不可行侧逼近真实的 PF。读者可以参考MW12上第100代Population1的位置（见图4）。这些解携带的遗传信息可以在子代生成的过程中共享，并且可以帮助c-DPEA更快速的收敛到真实PF

3. Population2 可以存档可行的解并从可行方面逼近 PF。因此，这两个群体的互补和协作性质导致了对搜索空间的详尽探索。

• 总之，本案例研究表明，Population1 可以在不同问题的整个演变过程中保留信息丰富的不可行解。它可以逐步引导不可行的区域并利用具有竞争力的不可行解。相反，Population2 负责保留可行解并从可行方面逼近 PF。该案例研究全面表明，这两个群体在本质上是互补的，并且可以有效地协作以近似 PF。

5.2 Effectiveness of Collaborative Coevolutionary Approach

• 在本案例研究中，我们调查了 c-DPEA 中协作协同进化方法的有效性。为此，我们将 c-DPEA 与两个单一群体变体进行比较，即 c-SPEA 和 c-SPEAa。具体来说，c-SPEA 仅使用 Population1。它使用saPF来处理不可行的解，并采用bCAD适应度函数来平衡收敛性和多样性。第 V-A 节表明 c-DPEA 中的 Population1 即使在进化结束时也可能保留许多不可行的解。我们在 c-SPEA 中也观察到了同样的情况。因此，将 c-DPEA 与仅 c-SPEA 进行比较可能不公平。因此，我们采用 c-SPEAa 作为另一种变体。
• c-SPEAa 也像 c-SPEA 一样仅进化 Population1，但此外，它还使用存档来维护迄今为止发现的最佳 N 个可行解。当归档中的解数超过 N 时，c-SPEAa 使用非支配排序和密度估计原理对归档进行截断并将其大小限制为 N。在进化结束时，c-SPEAa 返回归档作为最终输出.请注意，在 c-SPEA 和 c-SPEA 中，参数 γ 定义为总体中不可行解与 N 的比率
• 反向代际距离 (IGD) [35] 是一种广泛使用的性能指标，用于评估 c-DPEA 及其变体（即 c-SPEA 和 c-SPEAa）的性能。表 I 显示了 c-DPEA 以及 CTP 和 MW 测试套件上的两个变体获得的结果（即 31 次独立运行的平均值和标准偏差）。请注意，根据不同的问题类型（即类型 I-IV），使用水平边距将问题分开。为了检查结果是否显着不同，我们在 95% 的置信水平下采用了非参数 Wilcoxon-ranksum 双边比较检验 [36]。符号“+”、“-”或“≈”表示相应算法优于、差于或可与 c-DPEA 相媲美

• 表 I 显示 c-DPEA 在 18 个问题上明显优于 c-SPEA，并且在 22 个问题中的 4 个上与它相当。另一方面，与 c-SPEAa 相比，c-DPEA 在 16 个问题上更胜一筹，在 6 个问题上没有显着差异。统计结果表明，总体而言，c-DPEA 在 CTP 和 MW 测试套件上的性能明显优于其单一群体变体。
• 接下来，我们讨论了 c-DPEA比单种群变体表现优异的原因。c-SPEA 仅使用 Population1 并使用 saPF 处理不可行的解。尽管 saPF 擅长处理不可行的解并在不可行的区域中导航，但由于缺乏面向可行性的约束处理方法，c-SPEA 无法有效地保存、发展和存档可行的解。从补充材料 3 中的表 S-IV 可以明显看出这一点，该表总结了 c-SPEA 在不同问题的演变结束时保留的可行解的数量。具体来说，在 CTP2-5 和 MW11 上，c-SPEA 几乎没有返回任何可行的解。即使在 CTP6 和 CTP8 上，保留的可行解数也只有 15 个左右，而在 CTP1、CTP7、MW7 和 MW10 上，保留的可行解数少于或接近 50 个。c-SPEAa 可以通过归档在演进过程中找到的可行解来解决 c-SPEA 的缺点之一。但 c-SPEAa 中的存档仅用于存储可行的解，而不是生成新的解。因此，c-SPEAa 无法有效演化可行解，最终无法获得高质量的可行解。因此，c-SPEAa 的性能仅略好于 c-SPEA。
• 相比之下，c-DPEA 采用双种群方法，其中 Population1 旨在探索和利用不可行的解，而 Population2 旨在保存、发展和存档可行的解。由于 c-DPEA 中双种群的互补行为，它能够很好地平衡对目标和约束的关注，这对于 II-IV 类问题尤其重要。该案例研究全面表明，它是合作共同进化方法，因此 c-DPEA 在大多数 II-IV 型问题上能够显着优于其单一种群变体。

5.3 Effectiveness of the saPF Strategy

• 为了研究提出的 saPF 策略的有效性，本案例研究将 c-DPEA 与两种变体进行了比较，表示为 Alg-saPF-1 和 Alg-saPF-2。它们采用与 c-DPEA 相同的算法框架，但对 Population1 中不可行解的处理不同。具体来说，这两种变体分别采用了[14]和[37]中提出的自适应惩罚函数。选择这两个惩罚函数是因为它们在现实世界的 CMOP 中的成功应用。
• 这三种算法在 CTP 和 MW 问题上运行了 31 次。他们的 IGD 结果列在表 II 中，表明 c-DPEA 在 11 和 10 问题上分别优于 Alg-saPF-1 并且可与 Alg-saPF-1 相媲美。与 Alg-saPF-2 相比，c-DPEA 分别在 9 和 12 个问题上更好且具有可比性。
• 此外，表 II 表明这三种算法在所有类型 I 问题上都可以获得同样好的性能。这是因为它们可以在各自惩罚函数的帮助下通过不可行区域。然而，Alg-saPF-1 和 Alg-saPF-2 在 Type-II、TypeIII 和 Type-IV 问题上表现出相当大的弱点（见表 II）。在 CTP6 和 CTP7 上，位于右下角的解被 Alg-saPF-1 和 Alg-saPF-2 忽略，如图 1 和图 2 所示。补充材料中的 S-10 和 S-11，在 MW13 上也出现了类似的情况，其中两个变体无法获得良好的多样性，参见补充材料中的图 S-13。这有可能是因为saPF将目标空间划分为不同的次区域，并试图在不同的次区域中保留具有竞争力的不可行的解。使用 saPF，与 Alg-saPF-1 和 Alg-saPF-2 相比，c-DPEA 在多样性方面的表现明显更好。此外，补充材料中的图 S-12 表明，在 CTP8 上，c-DPEA 可以顺利跨过大的不可行区域，而这两种变体都失败了。原因可能是由于 saPF 更擅长促进多样性，它可以帮助 c-DPEA 避免过早收敛，而 Alg-saPF-1 和 Alg-saPF-2 则不能。
• 本案例研究全面展示了所提出的自适应惩罚函数与文献中提出的两种流行的自适应惩罚函数相比的优越性。特别是，通过采用基于次区域的方法，saPF 可以促进保留各种具有竞争力的不可行解，从而防止 c-DPEA 过早收敛。

5.4 Effectiveness of the bCAD Fitness Function

• 在本案例研究中，我们研究了 bCAD 适应度函数在平衡收敛性和多样性方面的有效性。为此，我们将 c-DPEA 与两个变体进行比较，即 c-DPEA-Rc 和 c-DPEA-Rd。与 c-DPEA 相比，c-DPEARc 和 c-DPEA-Rd 分别仅使用 Rc 和 Rd。注意 Rc 和 Rd 在第 III-B 节中介绍。
• 其中比较的结果使用IGD作为指标，并且在表三中显示，c-DPEA比c-DPEA-RC在22中的9个要好12个test problems上得到差不多的结果。对比c-DPEA-RD,其在17个问题上要好，5个问题得到了差不多的结果。这表明与 Rc 和 Rd 中的适应度分配策略相比，bCAD 在组合收敛性和多样性方面有助于实现更好的性能。

• 为了进一步研究 bCAD 单独对收敛性和多样性的影响，我们使用世代距离 (GD) [38] 和多样性度量 (DM) [39] 比较了 c-DPEA-Rc、c-DPEARd 和 c-DPEA。GD 是唯一的收敛指标，DM 是唯一的分集指标。结果总结在补充材料的表 S-V 中。GD 结果表明，c-DPEA 在收敛能力方面优于或等同于 c-DPEA-Rc，而 DM 结果表明在多样性能力方面也相同。此外，结果还显示了 c-DPEA 在许多测试问题上优于 c-DPEA-Rd，除了 c-DPEARd 在 1 个问题上优于 GD 和在 4 个问题上优于 DM。
• 此外，还绘制了三种方法在一些代表性问题上得到的最终解在补充材料中的 S-14–S-16。我们观察到 c-DPEA-Rc 可以具有良好的收敛性，但它可能无法获得完整的 PF。而c-DPEA-Rd可以得到分布广泛的种群，但是很多解最终都不能收敛到PF。相比之下，由于 bCAD 适应度函数，c-DPEA 设法找到完整的 PF。值得注意的是，c-DPEA-Rc 和 c-DPEA-Rd 也利用 saPF 处理 Population1 中不可行的解。然而，结果表明，单独的 saPF（即没有 bCAD）不足以保留各种竞争性不可行的解。
• 本案例研究广泛证明了 bCAD 适应度函数在平衡可行和不可行区域的收敛性和多样性方面的有效性。具体来说，与单独使用 Rc 或 Rd 相比，bCAD 适应度函数在收敛性和多样性之间取得了更好的平衡，从而导致了 c-DPEA 的高性能。

5.5 Comparison With State-of-the-Art Algorithms

• 本节比较了 c-DPEA 与六个 CMOEA 在基准上的表现。表 IV-VI 分别展示了他们在 CTP、MW 和 C-DTLZ 测试套件上的 IGD 结果，分别在 31 次独立运行中进行。此外，补充材料中的表 S-VI-S-VIII 分别总结了 CTP、MW 和 C-DTLZ 测试套件上所有考虑的算法的 HV 结果。

• 此外，为了使结果可视化，我们在补充材料中的 S-17–S-30中描述了算法在一些代表性 CMOP上获得的最终种群。在这里，绘制的结果来自一个典型的运行，该运行在 31 次独立运行中获得了IGD中值。在这些图中，每个问题的PF作为参考，以直观地比较所获得解的接近度和多样性。
• 然后，详细讨论三个test suites上的结果。

5.5.1 CTP test suite

• 补充材料中的表 IV 和表 S-VI 显示，在 IGD 和 HV 的 CTP 问题上，c-DPEA 的性能分别优于同行算法。具体来说，c-DPEA 在 CTP1-6 和 CTP8 上实现了最佳的平均 IGD 和 HV 结果。为了更好的可读性，我们只对 IGD 进行了进一步的讨论。
• 在 Type-II CTP 问题中，约束使无约束的 PF 部分不可行。此外，可行区域和真实 PF 都是断开的，因此 CTP7 挑战了算法在断开的可行区域中保持多样性并收敛到断开的 PF 的能力。表 IV 显示 C-NSGA-II、ToR-NSGA-II 和 C-MOEA/DD 在平均 IGD 值方面远低于 c-DPEA。在竞争者 MOEA 中，只有 CCMO 达到了与 c-DPEA 相当的性能。
• 在 Type-III 问题中，PF 的一部分来自于无约束的 PF，而另一部分位于约束边界上，从而具有不同的特征。一般来说，后一部分比前一部分更难获得，因此，对获得这两个部分的算法提出了挑战。因此，在搜索过程中平衡收敛性和多样性是至关重要的。表 IV 显示了 c-DPEA 在 CTP1 上优于除 CCMO 之外的所有算法。补充材料中的图 S-17 显示 C-NSGA-II、ToR-NSGA-II、PPS-MOEA/D 和 C-TAEA 无法完全达到 PF 的困难部分。尽管 C-MOEA/DD 可以找到接近 PF 困难部分的解，但它的收敛性很差。与它们相比，CCMO 可以获得相对更好的性能，但它可能会忽略 PF 上的几种解。相比之下，c-DPEA 在整个 PF 中提供了一套分布良好的解
• 在 Type-IV CMOPs 中，整个无约束的 PF 是不可行的，所有的 Pareto 最优解都位于可行域的边界上。表 IV 显示 c-DPEA 在所有类型 IV 问题上都明显优于竞争者算法。在这些 CMOP 中，CTP2 和 CTP8 中的 PF 是断开的，而在 CTP3-5 问题中，PF 是离散的。此外，在 CTP6 和 CTP8 中，许多不可行的障碍阻碍了对 PF 的搜索进度。这些特征挑战了算法在 PF 上收敛和定位不同解决方案的能力。补充材料中的图 S-18 说明了七种算法在 CTP5 上获得的最终解决方案。它表明 C-NSGA-II 和 ToR-NSGA-II 的多样性较差，无法找到多个帕累托最优解。尽管有良好的多样性，但 C-MOEA/DD、PPS-MOEA/D 和 C-TAEA 的收敛性较差。另一方面，c-DPEA 可以获得接近 PF 的分布良好的解。

5.5.2 MW test suite

• 补充材料中的表 V 和表 S-VII 表明，在大多数 MW 测试问题上，c-DPEA 在 IGD 和 HV 方面的表现分别优于同行算法。特别是，c-DPEA 在 14 个测试问题中的 10 个上实现了最好的 IGD 结果，在 14 个问题中的 8 个上实现了最好的 HV 结果。同样，为了更好的可读性，只进一步讨论了 IGD 结果。值得注意的是，所有 MW 测试问题的可行性比率都非常小，在大多数 MW 问题中，可行区域的大小小于 0.1% [5]。因此，所有 MW 问题都会挑战算法在大型不可行区域中导航并找到狭窄可行区域的能力。此外，许多 MW 问题已断开可行区域和/或断开 PF。因此MW对于平衡算法的收敛性和多样性也带来巨大的压力。

• 在 Type-I MW 问题中，c-DPEA 与竞争对手相当或优于竞争对手。MW2具有不连续的狭窄的可行域并且使用线性PF。在这个问题上，c-DPEA 在统计上等同于 C-TAEA 和 CCMO，并且优于其他。MW4 和 MW14 是 3 目标问题，其中 c-DPEA 获得最佳平均 IGD 值。让我们在这里举一个MW4的例子。补充材料中的图 S-22 显示 C-NSGA-II、ToR-NSGA-II 和 PPS-MOEA/D 在 MW4 上表现不佳，PPS-MOEA/D 表现最差。相比之下，C-MOEA/DD、C-TAEA、CCMO 和 c-DPEA 表现相当不错。
• 在 Type-II MW 问题中，c-DPEA 在 MW1、MW5 和 MW8 上获得了最好的平均 IGD 值。在 MW6 上，C-TAEA 获得了最好的平均 IGD 值，但其性能在统计上与 c-DPEA 相当。例如，我们在这里讨论 MW5 的结果。MW5 具有狭窄的可行区域和离散的 PF。补充材料中的图 S-23 表明 C-NSGA-II 和 ToR-NSGA-II 的多样性较差，而 PPS-MOEA/D 几乎无法找到任何帕累托最优解。C-MOEA/DD 和 C-TAEA 可以找到多种可行的解决方案，但在收敛性方面表现不佳。相比之下，c-DPEA 和 CCMO 能够在 MW5 的 PF 上获得分布良好的解。
• 在 Type-III MW 问题中，c-DPEA 在 MW7 和 MW13 上获得了最好的平均 IGD 值。虽然 CCMO 和 C-TAEA 分别在 MW3 和 MW10 上表现最好，但就平均 IGD 值而言，它们的性能在统计上与 c-DPEA 相当。例如，在 MW13（其具有狭窄的可行区域和断开的 PF）上通过七种算法获得的最终解决方案在补充材料中的图 S-24 中进行了说明。结果表明，C-NSGA-II、ToRNSGA-II、C-MOEA/DD、PPS-MOEA/D 和 CCMO 都存在收敛性和多样性差的问题，其中 PPS-MOEA/D 表现最差。与他们相比，C-TAEA 的表现要好得多。然而，c-DPEA 在 MW13 上的 PF 上表现最好并获得了分布良好的解。
• 此外，就平均 IGD 值而言，所有 IV 型 MW 问题都见证了 c-DPEA 的最佳性能。例如，在 MW11 上通过七种算法获得的最终解显示在补充材料中的图 S-25 中。该图显示 C-NSGA-II 和 ToR-NSGAII 在多样性方面表现不佳。C-MOEA/DD 和 C-TAEA 获得了很好的多样性，但没有达到很好的收敛性。相比之下，PPS-MOEA/D、CCMO 和 c-DPEA 可以在 PF 上获得一组均匀分布的解。

5.5.3 C-DTLZ test suite

• c-DPEA 和竞争对手在3目标 C-DTLZ 问题上进一步实施。这些问题对算法保持多样性和向PF收敛的能力提出了更高的要求。补充材料中的表 VI 和表 S-VIII 表明，在所有 C-DTLZ 问题上，在 IGD 和 HV 方面，cDPEA 的性能优于 C-NSGA-II、ToR-NSGA-II 和 PPS-MOEA/D。此外，无论指标如何，c-DPEA 都优于或与 C-MOEA/DD、C-TAEA 和 CCMO 相当。
• 在Type-I C1-DTLZ-1问题中，补充材料中的图S-26表明，虽然所有算法都可以大致定位PF，但C-MOEA/DD、C-TAEA、CCMO和c-DPEA得到的解比 C-NSGA-II、ToR-NSGA-II 和 PPS-MOEA/D 分布更均匀。在I型 C1-DTLZ3 问题中，补充材料中的图 S-27 表明 c-DPEA 表现最好，其次是 CCMO，而其他则受到通向 PF 的不可行障碍的阻碍。如图 S-28 所示，c-DPEA 和 CCMO 在 C2-DTLZ2 上表现出比 C-NSGA-II 和 ToR-NSGA-II 更好的收敛能力，以及比 PPS-MOEA/D 和 C-TAEA 更好的多样性。在 Type-IV C3-DTLZ1 问题中，如补充材料中的图 S-29 所示，所有算法都难以收敛到 PF。此外，C-NSGA-II、ToR-NSGA-II 和 PPS-MOEA/D 在多样性方面也表现不佳。在 Type-IV C3-DTLZ4 问题中，如表 VI 所示，所有竞争者算法在 IGD 方面都明显劣于 c-DPEA。补充材料中的图 S-30 显示 C-NSGA-II、ToR-NSGA-II 和 PPS-MOEA/D 显示出较差的多样性。

• 最后，Friedman检验用于检测三个测试套件上七种算法在 IGD 指标方面的差异。如图 5 所示，c-DPEA 具有最小的平均ranking, 意味着和同行算法在考虑的问题上比起来具有最佳的总体性能。

5.5.4 讨论

总的来说，Friedman 的测试结果表明，在比较的七种算法中，C-NSGA-II、ToR-NSGA-II、C-MOEA/DD 和 PPS-MOEA/D 是 CTP 和MW 测试套件（见图 5）。C-DTLZ 测试套件中性能最差的四种算法是 C-NSGA-II、ToR-NSGA-II、PPS-MOEA/D 和 C-TAEA。另一方面，协作协同进化算法 CCMO 和 c-DPEA 是所有三个测试套件中第二好的和最好的算法。这表明了所提出的 c-DPEA 的稳健性和对等算法的局限性，特别是 C-NSGA-II、ToR-NSGA-II、C-MOEA/DD、PPS-MOEA/D 和 C-TAEA。接下来，我们总结了不同算法的性能和可能的原因。C-NSGA-II 未能在许多测试问题上获得良好的多样性，因为它首先促进收敛，其次促进多样性。例如CTP1（图S-17）、CTP5（图S-18）、MW5（图S-23）、MW11（图S-25）等，读者可以参考补充文件。此外，由于面向可行性的约束处理方法，C-NSGA-II在许多问题中受到不可行障碍的阻碍，因此无法获得良好的收敛性。读者可以参考补充文件的例子，如CTP6（图S-19）、CTP8（图S-21）、C1-DTLZ3（图S-27）。ToR-NSGA-II 采用了一种新颖的适应度函数，基于两个排名的加权组合，其中一个是在 C-NSGA-II 中获得的，另一个是在不考虑约束的情况下获得的。尽管如此，它在 CTP 和 MW 测试套件上的性能仅略好于 CNSGA-II，在 C-DTLZ 测试套件上略差。与 NSGA-II 一样，ToR-NSGA-II 在 CTP1（图 S-17）、CTP5（图 S-18）和 MW5（图 S-23）等许多问题上都没有实现良好的多样性，因为ToR-NSGA-II使用的两个排名也是采用收敛第一，多样性第二的原则。此外，与 NSGA-II 类似，ToR-NSGA-II 在问题上也受到不可行障碍的阻碍，例如 CTP8（图 S-21）和 C1-DTLZ3（图 S-27），表明加权排序方法无法帮助算法导航大的不可行区域。PPS-MOEA/D 的缺点是它不能有效地利用和发展迄今为止发现的可行解决方案。PPS-MOEA/D 在推动阶段不考虑任何约束的情况下向前发展，然后在拉动阶段向 PF 演进。尽管在进化过程中找到了许多可行的解决方案，但它们并不用于进化新的解决方案。因此，PPS-MOEA/D最终很难在CTP5（图S-18）、CTP6（图S-19）、MW13（图S- 24）等中获得高质量的可行解。C-MOEA/DD具有较好的多样性，但在CTP1（图S-17）、CTP5（图S-18）、CTP7（图S-20）和MW11（图S- 25) 中收敛性较差。原因如下。

1. 由于其多样性保存机制，如果一个解决方案与一个孤立的子区域相关联[27]，即使它处于最后一个非支配级别，该解决方案也将被保留。这有利于多样性，但同时降低了收敛速度。
2. C-MOEA/DD 强烈支持可行性。具体来说，影响解选择的第一个因素是约束违反值，其次是目标函数值，无论是在交配父母的锦标赛选择中还是在环境选择中。因此，C-MOEA/DD 收敛缓慢，甚至受到问题上不可行的障碍的阻碍，例如补充材料中的 CTP8（图 S-21）和 C1-DTLZ3（图 S-27）。

• C-TAEA 也未能在补充材料中的 CTP5（图 S-18）、CTP8（图 S-21）和 C1-DTLZ3（图 S-27）等问题上实现良好的收敛。原因是，尽管使用了 CA 和 DA，但它对好的不可行解决方案的关注有限。如第二部分所述，其 CA 更喜欢可行的解决方案，而 DA 主要旨在提高多样性。只有几个与不那么拥挤的子区域相关的不可行的解决方案可能会在 DA 中存活下来。因此，向前探索的力量不强，导致收敛相对缓慢。CCMO 的性能优于其他同行算法，根据 Friedman 在不同测试套件中的测试排名，它是第二好的算法。然而，CCMO 仍然无法实现与 c-DPEA 等效的性能，因为其中一个群体仅关注最优性而不考虑任何约束。它可以找到具有最佳目标函数值的解决方案，但是当部分或全部 PF 位于约束边界上时，它们提供的有用信息可能会受到限制，尤其是当这些解决方案远离 PF 时。请注意，在这种情况下，信息量最大的不可行解决方案是具有良好目标且位于约束边界附近的解决方案，但它们很容易被 CCMO 忽略，因为它一直在向前冲。
• 现在我们简要讨论为什么 c-DPEA 在不同的测试套件中获得最佳性能。如第 V-A 节所示，c-DPEA 中的两个种群协同执行，其中 Population1 在所有问题的不同进化阶段保留竞争性不可行解，而 Population2 保持可行解。此外，如第 V -D 节所示，saPF 与 bCAD 适应度函数可以平衡 Population1 中不可行解的收敛性和多样性。另一方面，可行性导向方法和 bCAD 适应度函数的结合可以在整个人口进化过程中在可行解的收敛性和多样性之间取得平衡。总体而言，与竞争者算法相比，两个群体的互补共同进化行为大大有助于 c-DPEA 在不同测试套件的问题上实现高性能。

6. 总结

• 在本文中，我们提出了一种基于双种群的合作协同进化算法，名为 c-DPEA，用于 CMOP。c-DPEA 维护两个协作种群 Population1 和 Population2，主要区别在于处理不可行的解决方案。前者使用一种称为 saPF 的新型自适应惩罚函数来处理不可行的解决方案，而后者采用面向可行性的方法。此外，为了在搜索过程中更好地平衡收敛性和多样性，我们开发了一种称为 bCAD 的新自适应适应度函数。
• 对 CTP 和 MW 测试套件进行了广泛的实验，以研究设计组件在 c-DPEA 中的功效。对两个种群行为的调查表明，这两个种群在探索搜索空间方面是互补的。具体来说，Population1 可以在所有测试问题的不同演化阶段保持不可行解，特别是对于最优解位于约束边界上的问题。另一方面，Population2 可以有效地归档迄今为止找到的最佳可行解并逼近 PF。通过将 c-DPEA 与其两个单种群变体进行比较，我们充分展示了 cDPEA 中合作共同进化方法的有效性。与其他自适应惩罚函数相比，我们还测试了所提出的 saPF 的有效性。此外，我们全面说明了 bCAD 适应度函数在保持可行和不可行区域的收敛性和多样性之间的平衡方面的功效。最后，我们在 CTP 和 MW 测试套件以及 3 目标 C-DTLZ 问题上将 c-DPEA 与六个最先进的 CMOEA 进行了比较。实验结果详尽地表明，在大多数测试问题上，c-DPEA 要么明显优于六种 CMOEA，要么可与六种 CMOEA 相媲美。
• 总的来说，文献中缺乏关于平衡收敛性和多样性以及解决CMOPs的自适应惩罚函数的研究。因此，未来可以沿着这些方向进行更多的研究。此外，c-DPEA 在 2 和 3 目标 CMPOP 上进行了测试。未来，可以开展研究，将 c-DPEA 的协同协同进化框架扩展到约束超多目标优化问题。

7. 参考文献

[1] K. Deb, Multi-Objective Optimization Using Evolutionary Algorithms. Chichester, U.K.: Wiley, 2001.

[2] J. Wang, W. Ren, Z. Zhang, H. Huang, and Y . Zhou, “A hybrid multiobjective memetic algorithm for multiobjective periodic vehicle routing problem with time windows,” IEEE Trans. Syst., Man, Cybern., Syst., vol. 50, no. 11, pp. 4732–4745, Nov. 2020.

[3] R. Tanabe and A. Oyama, “A note on constrained multi-objective optimization benchmark problems,” in Proc. IEEE Congr . Evol. Comput. (CEC), 2017, pp. 1127–1134.

[4] C. A. Coello Coello, “Theoretical and numerical constraint-handling techniques used with evolutionary algorithms: A survey of the state of the art,” Comput. Methods Appl. Mech. Eng., vol. 191, nos. 11–12, pp. 1245–1287, 2002.

[5] Z. Ma and Y . Wang, “Evolutionary constrained multiobjective optimization: Test suite construction and performance comparisons,” IEEE Trans. Evol. Comput., vol. 23, no. 6, pp. 972–986, Dec. 2019.

[6] K. Deb, A. Pratap, S. Agarwal, and T. Meyarivan, “A fast and elitist multiobjective genetic algorithm: NSGA-II,” IEEE Trans. Evol. Comput., vol. 6, no. 2, pp. 182–197, Apr. 2002.

[7] M. A. Jan and R. A. Khanum, “A study of two penalty-parameterless constraint handling techniques in the framework of MOEA/D,” Appl. Soft Comput., vol. 13, no. 1, pp. 128–148, 2013.

[8] T. Ray, H. K. Singh, A. Isaacs, and W. Smith,“Infeasibility driven evolutionary algorithm for constrained optimization,” in Constraint-Handling in Evolutionary Optimization. Heidelberg, Germany: Springer, 2009, pp. 145–165.

[9] J. Wang, G. Liang, and J. Zhang, “Cooperative differential evolution framework for constrained multiobjective optimization,” IEEE Trans. Cybern., vol. 49, no. 6, pp. 2060–2072, Jun. 2019.

[10] K. Li, R. Chen, G. Fu, and X. Y ao, “Two-archive evolutionary algorithm for constrained multiobjective optimization,” IEEE Trans. Evol. Comput., vol. 23, no. 2, pp. 303–315, Apr. 2019.

[11] Y . Tian, T. Zhang, J. Xiao, X. Zhang, and Y . Jin, “A coevolutionary framework for constrained multi-objective optimization problems,” IEEE Trans. Evol. Comput., vol. 25, no. 1, pp. 102–116, Feb. 2021.

[12] H.-L. Liu, L. Chen, K. Deb, and E. D. Goodman, “Investigating the effect of imbalance between convergence and diversity in evolutionary multiobjective algorithms,” IEEE Trans. Evol. Comput., vol. 21, no. 3, pp. 408–425, Jun. 2017.

[13] C. M. Fonseca and P . J. Fleming, “Multiobjective optimization and multiple constraint handling with evolutionary algorithms–Part I: A unified formulation,” IEEE Trans. Syst., Man, Cybern. A, Syst., Humans, vol. 28, no. 1, pp. 26–37, Jan. 1998.

[14] Y . G. Woldesenbet, G. G. Y en, and B. G. Tessema, “Constraint handling in multiobjective evolutionary optimization,” IEEE Trans. Evol. Comput., vol. 13, no. 3, pp. 514–525, Jun. 2009.

[15] T. Takahama and S. Sakai, “Efficient constrained optimization by the ε constrained adaptive differential evolution,” in Proc. IEEE Congr . Evol. Comput. (CEC), 2010, pp. 1–8.

[16] Y . Wang and Z. Cai, “Combining multiobjective optimization with differential evolution to solve constrained optimization problems,” IEEE Trans. Evol. Comput., vol. 16, no. 1, pp. 117–134, Feb. 2012.

[17] M. F. Tasgetiren, P . N. Suganthan, Q.-K. Pan, R. Mallipeddi, and S. Sarman, “An ensemble of differential evolution algorithms for constrained function optimization,” in Proc. IEEE Congr . Evol. Comput. (CEC), 2010, pp. 1–8.

[18] E. Mezura-Montes and C. A. Coello Coello, “Constraint-handling in nature-inspired numerical optimization: past, present and future,” Swarm Evol. Comput., vol. 1, no. 4, pp. 173–194, 2011.

[19] W. Ning, B. Guo, Y . Y an, X. Wu, J. Wu, and D. Zhao, “Constrained multi-objective optimization using constrained non-dominated sorting combined with an improved hybrid multi-objective evolutionary algorithm,” Eng. Optim., vol. 49, no. 10, pp. 1645–1664, 2017.

[20] Z. Ma, Y . Wang, and W. Song, “A new fitness function with two rankings for evolutionary constrained multiobjective optimization,” IEEE Trans. Syst., Man, Cybern., Syst., early access, Oct. 28, 2020, doi: 10.1109/TSMC.2019.2943973.

[21] Z. Fan et al., “Push and pull search for solving constrained multiobjective optimization problems,” Swarm Evol. Comput., vol. 44, pp. 665–679, Feb. 2019.

[22] Q. Zhang and H. Li, “MOEA/D: A multiobjective evolutionary algorithm based on decomposition,” IEEE Trans. Evol. Comput., vol. 11, no. 6, pp. 712–731, Dec. 2007.

[23] Z. Liu and Y . Wang, “Handling constrained multiobjective optimization problems with constraints in both the decision and objective spaces,” IEEE Trans. Evol. Comput., vol. 23, no. 5, pp. 870–884, Oct. 2019.

[24] X. Li and X. Y ao, “Cooperatively coevolving particle swarms for large scale optimization,” IEEE Trans. Evol. Comput., vol. 16, no. 2, pp. 210–224, Apr. 2012.

[25] L. M. Antonio and C. A. Coello Coello, “Coevolutionary multiobjective evolutionary algorithms: Survey of the state-of-the-art,” IEEE Trans. Evol. Comput., vol. 22, no. 6, pp. 851–865, Dec. 2018.

[26] H.-L. Liu, F. Gu, and Q. Zhang, “Decomposition of a multiobjective optimization problem into a number of simple multiobjective subproblems,” IEEE Trans. Evol. Comput., vol. 18, no. 3, pp. 450–455, Jun. 2014.

[27] K. Li, K. Deb, Q. Zhang, and S. Kwong, “An evolutionary manyobjective optimization algorithm based on dominance and decomposition,” IEEE Trans. Evol. Comput., vol. 19, no. 5, pp. 694–716, Oct. 2015.

[28] E. Zitzler, M. Laumanns, and L. Thiele, “SPEA2: Improving the strength Pareto evolutionary algorithm,” in Proc. Evol. Methods Design Optim. Control Appl. Ind. Problems, 2001, pp. 95–100.

[29] S. Kukkonen and K. Deb, “A fast and effective method for pruning of non-dominated solutions in many-objective problems,” in Proc. Int. Conf. Parall. Problem Solving Nat. (PPSN), 2006, pp. 553–562.

[30] K. Deb and R. B. Agrawal, “Simulated binary crossover for continuous search space,” Complex Syst., vol. 9, no. 2, pp. 115–148, 1995.

[31] K. Deb and M. Goyal, “A combined genetic adaptive search (GeneAS) for engineering design,” Comput. Sci. Inform., vol. 26, no. 4, pp. 30–45, 1996.

[32] K. Deb, A. Pratap, and T. Meyarivan, “Constrained test problems for multi-objective evolutionary optimization,” in Proc. Int. Conf. Evol. Multi Criterion Optim. (EMO), 2001, pp. 284–298.

[33] H. Jain and K. Deb, “An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, part II: Handling constraints and extending to an adaptive approach,” IEEE Trans. Evol. Comput., vol. 18, no. 4, pp. 602–622, Aug. 2014.

[34] Y . Tian, R. Cheng, X. Zhang, and Y . Jin, “PlatEMO: A MA TLAB platform for evolutionary multi-objective optimization,” IEEE Comput. Intell. Mag., vol. 12, no. 4, pp. 73–87, Nov. 2017.

[35] P . A. Bosman and D. Thierens, “The balance between proximity and diversity in multiobjective evolutionary algorithms,” IEEE Trans. Evol. Comput., vol. 7, no. 2, pp. 174–188, Apr. 2003.

[36] M. Hollander, D. A. Wolfe, and E. Chicken, Nonparametric Statistical Methods, vol. 751. Hoboken, NJ, USA: John Wiley & Sons, 2013. [37] L. Jiao, J. Luo, R. Shang, and F. Liu, “A modified objective function method with feasible-guiding strategy to solve constrained multi-objective optimization problems,” Appl. Soft Comput., vol. 14, pp. 363–380, Jan. 2014.

[38] D. A. V an V eldhuizen and G. B. Lamont, “On measuring multiobjective evolutionary algorithm performance,” in Proc. IEEE Congr . Evol. Comput. (CEC), vol. 1, 2000, pp. 204–211.

[39] K. Deb and S. Jain, “Running performance metrics for evolutionary multi-objective optimization,” Indian Inst. Technol. Kanpur, Kanpur, India, Rep. 2002004, 2002