基于异常检测模型的进化多任务优化算法

本发明属于智能计算方法，涉及基于异常检测模型的进化多任务优化算法。

背景技术：

1、在现实生活中，我们经常遇到多个任务需要同时优化的问题。这类问题通常被称为多任务优化问题(muti-task optimization,mto)。由于mto问题通常涉及到多个具有不同搜索空间的优化任务，传统的进化算法(evolutionary algorithms,eas)难以直接对其进行求解。为此，gupta等提出一种新的进化计算范式—进化多任务优化(evolutionarymulti-task optimization,emto)。该计算范式把不同任务的搜索空间映射到统一空间中，并利用任务间潜在的相似性来实现协同优化。知识转移作为协同优化的关键环节，其效率的高低直接决定算法的性能。截至目前，研究者已提出了各种不同的知识转移策略。根据知识转移性质的不同，大致可分为以下四类：(1)基于隐性知识迁移的静态emto算法：这类算法的主要特点是以单种群的形式将不同任务的决策空间映射到统一空间进行搜索，并通过演化算子来实现不同类型个体的血型交配，以此达到知识迁移的目的。例如，tang等通过邻域重构以利用不同任务决策空间的局部特征知识，并效仿基于层次的教育法以提升个体的搜索能力；ma等将目标分解同多因子进化算法相结合以构建强相关模因辅助任务，并为分解后的组件任务创建一个相关的多目标优化问题，以促进任务间积极的知识转移；thiago等将笛卡尔坐标映射到统一潜在空间，从而使潜在空间的特征转移允许形状重构及共同部件的维护，相应提高了各任务的性能表现。(2)基于隐性知识迁移的自适应emto算法：与第一类算法采用确定的知识迁移方式不同，该类算法通过引入自适应机制来控制不同任务间知识迁移的程度，以此减少负迁移现象的发生。例如，tang等提出了一种任务间自适应协调系统，在每一代中随机合并源任务和目标任务之间的不同知识转移策略；yao等提出了一种动态资源分配策略，根据进化速度的快慢自适应地将计算资源分配给不同任务；eneko等引入了一种新的自适应元启发式算法，通过量化搜索过程中的正转移和负转移来重新安排细胞网格以促进正向的知识转移。(3)基于显性知识迁移的静态emto算法：与基于隐性知识迁移的emto算法采用单种群结构不同，该类算法采用多种群结构来实现不同任务的独立演化，并在演化过程中进行不同种群之间的知识迁移。例如，zheng等在多任务差分进化中引入了一种简单有效的知识转移策略，利用源任务的历史最优解来辅助优化目标任务；wu等将各任务最优的若干个解的平均值作差来衡量任务之间的种群差异，若知识迁移后此差值亦相应减小，则证明进行了积极地知识转移；tang等提出一种多种群进化算法的知识转移策略，将源任务中通过基因突变后产生的精英个体迁移至目标任务中，来代替其中较差的个体进行知识转移。(4)基于显性知识迁移的自适应emto算法：与第三类算法采用确定的知识迁移方式不同，该类算法通过引入自适应机制来控制不同种群间知识迁移的程度，以此提高知识迁移的效率。例如，long等基于先验知识构建了最小二乘支持向量机分类器，将最优解和较差解分类，继而对较差解进行自适应优化；li等引入了一种自适应策略来调整任务间随机交配概率(rmp)，当整体种群成功率较低时对比任务间随机交配成功率进行自适应调整；shang等提出了一种任务选择的信用分配方法，基于任务间知识转移的反馈对交叉效果较好的源任务进行自适应更新；xu等提出了一种自适应进化多任务优化框架，该框架提供了两个关键求解模块，根据随机交配概率自适应地选择任务内进化以及任务间交叉进化。

2、现有算法对解决emto有一定效果，然而其性能表现并不突出，原因有以下方面：(1)知识转移是利用任务间相关性信息，促进多个任务协同进化。其中，任务相似度越高，越易捕捉任务间相关性信息。基于此，相关性任务间相似度较高，知识转移效率亦更高，表现在算法解决mto的能力和效果更加显著。相对而言，非相关性任务缺乏高相似度信息，这使得知识转移效率低下，易产生负迁移，进而导致算法停滞甚至倒退。因此，如何提高非相关性任务知识转移的效率是当前急需解决的问题之一。(2)演化算法聚焦于高效处理黑箱优化问题，但其演化进程往往缺乏符合任务自身偏好的先验知识，如分布特征等。若缺乏指导性的先验知识，识别高质量解就变得困难，该类解就会变得极易丢失。值得注意的是，演化过程中高质量解的多少直接决定知识转移效率的高低，因此，该先验知识的缺失将导致知识转移效率的下降。这同利用高质量解促进任务间协同进化以及种群正向演化的基本理论相违背。因此，如何引入一种先验知识并利用其生成和存档高质量解成为研究的难题之一。(3)不同知识转移策略生成具有不同数量和效果的转移解。有利于emto优化的转移解倾向于被保留，定义并存档为高质量解。但由于没有确切机制或准则定义该类解的数量大小和优劣程度，也因此未能确切认识和掌握该类解携带信息的具体内容。事实上，不能确定该类解的数量，会导致大量计算机资源的浪费，减缓算法的运行速率；不能确定该类解的优劣，也就无法引导知识转移的走向(正迁移或负迁移)，即无法衡量协同进化的效果，进而导致算法的鲁棒性较差。因此，如何引入一种有效的知识转移策略，其中包括转移解的数量确定和优劣衡量机制，是研究的创新点之一。上述三个问题都会导致算法的性能表现以及计算速率降低。

技术实现思路

1、本发明的目的是提供一种基于异常检测模型的进化多任务优化算法，解决了现有技术中存在的算法性能表现以及计算速率低的问题。

2、本发明所采用的技术方案是，基于异常检测模型的进化多任务优化算法，包括以下步骤：

3、步骤1、在基于emto范式的多种群框架下，分别初始化k个任务种群，并对adeoea的参数进行初始化，参数包括交叉概率cri、突变步长fi的平均值μcr，μf、成功个体对应的cri，fi的集合scr，sf；

4、步骤2、采用adeoea进行任务内种群演化，得到子代种群；

5、步骤3、利用lof算法计算子代种群中个体的局部离群因子，再对局部离群因子进行升序排列，选取符合目标任务偏好的转移解；

6、步骤4、合并父代和子代种群以及lof产生的转移解，并对其进行适应度评估，升序排列该适应度值，并选取前n个个体作为成功个体；

7、步骤5、每一代种群演化过程中，若子代种群中的子代个体优于父代个体，则将该成功个体对应的参数cri，fi存档至集合scr，sf，并对μcr，μf进行更新，再利用更新后的μcr，μf计算下一代种群演化的cri，fi；

8、步骤6、判断适应度评估次数是否小于最大函数评价次数fesmax，若满足，则输出父代种群的最优解及最优值，否则返回步骤2，进入下一代种群演化。

9、本发明的特点还在于：

10、步骤2具体包括以下步骤：

11、步骤2.1、选取第k个任务作为目标任务，利用基于差分进化算法生成子代变异个体：

12、

13、上式中，xi，g为父代个体，fi为个体xi，g对应的变异步长，为种群前100a％的个体，a为自适应选择参数，从父代种群pk(t)中随机选取，k＝1，2，...，k，从集合pk(t)∪中随机选取；

14、步骤2.2、将每个变异个体vi，g同父代个体xi，g交叉，得到n个试验个体uj，i，g，记为子代种群ok(t)；

15、

16、上式中，rand(0，1)为(0，1)范围内的一个随机数，cri为交叉概率，jrand为从1至d维随机选取的整数，jrand＝randint(1，d)，uj，i，g为第i个试验个体的第j维变量；xj，i，g，vj，i，g分别为第i个父代个体以及第i个变异个体的第j维变量。

17、步骤3具体包括以下步骤：

18、步骤3.1、其余k-1个任务为源任务，计算源任务种群中个体点p的局部离群因子lofk(p)：

19、

20、上式中，点p为源任务中的个体，点o为目标任务中的k个个体，o∈pk(t)，lrdk(p)为局部可达密度，计算公式如下：

21、

22、上式中，nk(p)表示点p的第k距离邻域，|nk(p)|≥k，点o为点p第k距离邻域内的点，reach_distk(o，p)表示点o到点p的第k可达距离，计算公式如下：

23、reach_distk(o，p)＝max{dk(o)，d(o，p)}   (5)；

24、上式中，dk(o)为点o的第k距离，d(o，p)为点o到点p的欧式距离；

25、步骤3.2、对局部可达密度lrdk(p)进行升序排列，得到排名rank{lrdk(p)}；

26、步骤3.3、自适应选择转移解成功个体数占源任务种群数n的比率a，控制lof产生转移解的数量，得到转移解lk(t)。

27、步骤3的公式(5)中，当满足条件i时，dk(p)＝d(p，o)，条件i为：

28、1)在集合中至少有不包括点p在内的k个点o’，使得d(p，o′)≤d(p，o)；

29、2)在集合中至少有不包括点p在内的k-1个点o’，使得d(p，o′)＜d(p，o)。

30、步骤3.3具体过程为：

31、首先，当t＝1时，置a＝rand(0，1)；当t＞1时，统计利用lof产生的转移解成功进入下一代的数量s，计算该转移解成功个体数占总的转移解数量的比率口；最后，选取rank{lrdk(p)}中前100％a*n个个体，作为转移解lk(t)。

32、步骤5具体包括以下步骤：

33、步骤5.1、每一代种群演化过程中，若生成的试验个体uj，i，g优于父代个体xi，g，则将该成功个体对应的参数cri，fi存档至集合scr，sf，并对均值μcr，μf进行更新，更新公式如下：

34、μcr＝(1-c)·μcr+c·meana(scr)   (6)；

35、μf＝(1-c)·μf+c·meanl(sf)   (7)；

36、上式中，c是学习率，meana(·)取加权平均，meanl(·)取lehmer平均；

37、

38、

39、

40、上式中，δfk＝|f(uk，g)-f(xk，g)|；

41、步骤5.2、利用更新后的μcr，μf计算下一代种群演化的cri、fi；

42、cri＝randni(μcr，0.1)   (11)；

43、fi＝randci(μf，0，1)   (12)；

44、上式中，randni(μcr，0.1)和randci(μf，0，1)的值分别从正态分布和柯西分布中随机取样，μcr，μf为均值，方差σ2＝0.1；超出[0，1]范围的cri，fi进行截取。

45、本发明的有益效果是：本发明基于异常检测模型的进化多任务优化算法，采用异常检测模型识别相对有希望的转移解，同时摒弃异常解(离群点)以防止负迁移，解决了非相关性任务难以捕获对种群具有贡献的相关性信息问题；为辅助异常检测模型选取更多的高质量解，利用演化后期不同任务的种群倾向于集簇分布，而该分布特征一定程度上反映了任务偏好这一特点，将此特征作为先验知识人为引入，从而指导高质量解的识别和存档；采取基于密度的局部离群因子检测方法，通过计算每个个体相对局部邻域内的密度情况，具体量化每个个体的离群程度，即局部离群因子，并依据先验知识，设定演化后期相对密度高的区域内的解，即离群度低的解，具有更好的表现，通过对该指标排序，定量给出转移解的具体数量和优劣次序，提高算法的运行速率及鲁棒性。