论文研读-用于处理昂贵问题的广义多任务优化GMFEA

论文研读-用于处理昂贵问题的广义多任务优化GMFEA

Generalized Multitasking for Evolutionary Optimization of Expensive Problems

GMFEA

• 此篇文章为 J. Ding, C. Yang, Y. Jin, T. Chai, Generalized Multitasking for Evolutionary Optimization of Expensive Problems, IEEE Transactions on Evolutionary Computation. 23 (2019) 44–58. https://doi.org/10.1109/TEVC.2017.2785351. 的论文学习笔记，只供学习使用，不作商业用途，侵权删除。并且本人学术功底有限如果有思路不正确的地方欢迎批评指正！
• 论文代码 非常感谢原作者杨翠娥博士的分享！

1. Innovation

• 本文提出了一种广义MFEA（G-MFEA），它由两种新策略组成，即 决策变量转换策略decision variable translation strategy 和 决策变量混洗策略decision variable shuffling strategy 。虽然提出的G-MFEA适用于传统的多任务问题，但在本文中，我们专注于将G-MFEA应用于昂贵的优化问题的解决方案。本文的主要贡献可归纳如下。
• 提出了一种决策变量转换策略来解决MFO问题. 决策变量转换策略根据每个任务的估计最优值来调整个体的位置，以便增强优化过程中的知识转移。(是一种使用部分优解进行线性领域适应的方法)
• 还引入决策变量混洗策略来处理具有不同数量的决策变量的MFO问题。决策变量混洗策略不仅可以改变染色体中决策变量的顺序，使每个变量都有机会与其他任务进行通信，从而提高知识转移的效率，还可以替换未使用的决策变量。用相应的有用信息来保证转移知识的质量。是一种为了处理source 和target task具有不同变量维度的方法
• 进一步扩展了广义多任务框架，以解决昂贵的优化问题，称为MCEEA。在MCEEA中，使用许多计算上廉价的任务（C任务）来加速计算上昂贵的任务（E任务）的优化，从而减少E任务的适应性评估的数量。需要强调的是，与现有的多任务优化算法相比，提出的MCEEA主要侧重于提高E任务的收敛速度。因此，MCEEA和G-MFEA之间存在一些显着差异。例如，MCEEA中包含多个C任务以产生各种知识，以实现E任务的强大性能增强。此外，在解决E任务时，只选择具有E-task有用知识的C-tasks中的精英个体进行知识转移，从而实现E-task的更快收敛。

2. Motivation

传统MFEA中统一决策空间理论的缺陷

• MFEA中的统一决策空间理论的阈值时[0,1]之间，而不同问题最优点的位置不同，这样很容易发生负迁移。
• 如果MFO问题中不同任务的决策空间的维度不同，如图2所示的示例，其中MFO问题包含两个任务，即task1和task2，其维度分别为7和10。在这种情况下，task1中的个体只有第一部分（前7个决策变量）代表解决方案，而其余变量不使用。因此，task2的最后一个变量无法与task1交换知识。此外，task1的良好解决方案不一定适合task2，因为它是task2的非集成解决方案。因此，当任务1和任务2的维度不同时，MFEA中的知识转移效率可能会降低。

• 针对MFEA在求解最优解位于统一搜索空间不同位置或决策空间维数不同的MFO问题时的上述局限性，本文提出了一种G-MFEA。G-MFEA采用了两种新的策略，一种是针对具有不同最优解的MFO问题的决策变量转换策略，另一种是针对不同维度的决策变量洗牌策略。更具体地说，决策变量转换策略将个体的解映射到一个新的空间，其中所有任务的最优解都位于同一位置。通过应用决策变量转换策略，可以在增强种群多样性和加速种群收敛之间保持更好的平衡。同时，决策变量洗牌策略不仅通过给每个决策变量一个匹配的机会来提高知识转移的有效性，而且通过将两个使用中的变量替换为解决方案转移到的任务的相应信息来提高转移解的质量。 (本质还是一种基于最优解(集合)的线性变换)
• 最近，提出了将一项任务转换为另一项任务的线性化域自适应 [38]。需要指出的是，本文提出的思想与[38]中的思想不同，G-MFEA 将所有任务转换到一个新的空间，同时保持解的相同几何特性，从而避免对 MFEA 多样化能力的不利影响 人口并执行全局搜索。（本质都是一种线性化方法，但是[38]中没有使用到优势种群或者解集的信息）

3. PROPOSEDALGORITHMG-MFEA

3.1 Framework of G-MFEA

• 算法4总结了G-MFEA的主要框架。G-MFEA与MFEA的区别主要在于子代生成过程。在每一代，个体在原始种群中的位置首先通过所提出的决策变量转换策略转换为新位置，新位置的种群用\overline{P} 表示。算法5详细说明了决策变量的转换策略。一旦转换后的群体形成，后代将从父母\overline{P} 中产生。给定两个随机选择的双亲，决策变量的顺序会进一步受到干扰，未使用的变量在进行分类交配之前会被决策变量洗牌策略所取代。算法6中描述了决策变量混洗策略。
• 应该注意的是，生成的子代也在转换的解决方案空间中。因此，必须将这些子代转换回原始解决方案空间（步骤8）。子代被转换回与它有更密切继承关系的父代的空间。假设后代O1是由以下两种情况之一使用组合交配生成的，它将映射回根据（2）p1关联的任务的解决方案空间，因为它从p1继承了更多信息

3.2 Decision V ariable Translation Strategy

• 决策变量翻译策略的主要目的是将个体映射到一个新的位置，使所有任务的最优值都位于统一搜索空间中的同一位置，以促进知识转移并在种群多样性和收敛性之间取得良好的平衡。算法5中总结了决策变量转换策略的细节。

• 统一搜索空间的中心点，即cp=(0.5,0.5，…，0.5)，是所有最优值被转移到的指定位置。为了实现这一点，重要的是估计从每个任务的当前位置到中心点的距离，称为翻译方向dk,k=1,2，…，K，其中K是任务的数量。翻译方向是根据当前这一代的每个任务的有希望的解决方案估计的，如下: (从翻译方向这一点可以看出，GMFEA有能力实现Many-task optimization)

• 为了保持稳定的平移，如算法5中的步骤2-4所示，每一个θ代计算distance d_k 。考虑到早期优化过程中对最优值的估计不准确，α被初始化为零，并随着第φ代的进化而逐渐增加

3.3 Decision Variable Shuffling Strategy

• 提出的G-MFEA决策变量转移策略旨在提高不同维度MFO任务间知识转移的有效性。具体来说，决策变量洗牌策略首先随机改变低维解中变量的顺序，使每个变量在两个任务之间有一次知识转移的机会。然后，将未使用的低维任务的个体决策变量替换为高维任务的个体决策变量。因此，决策变量洗牌策略只能应用于维度较低的父代解。