具体而言，就像大自然通过突变、交叉或移除一些潜在的遗传密码来提高大脑的功能一样，人工神经网络通过进化算法能够产生越来越好的拓扑、权重和超参数。...图1：典型的代际神经进化过程图解 神经进化过程也是一个“黑盒”，虽然它自己的进化过程需要参数，但却不为生成的神经网络规定任何特定超参数，而是根据实际问题的解决设计神经网络。...这种直接编码可以表示任意的前馈和递归拓扑，也能够产生最优的拓扑。但“拓扑”太灵活的话，粒度的搜索空间就会变得非常庞大。因此需要设计良好的神经进化算法才能快速遍历该搜索空间。...例如在神经进化算法之前，NEAT算法（通过增强拓扑的进化神经网络（Evolving Neural Networks through Augmenting Topologies））利用直接编码在进行修改网络的拓扑结构...NEAT通过突变和无损重组直接编码，同时通过物种形成保护创新。由于其简单性和同步能力，NEAT可以被认为是典型的神经进化算法。
图5用基因来表示神经网络中神经元的权重 进化算法的典型问题是，当在时间尺度上进行观察时，会出现即使迭代时间再长，求解的结果并不会改善太多，趋近于饱和状态。这主要是因为突变率太高，无法求得最优解。...NEAT(基于增强拓扑神经网络)和HyperNEAT解决这个问题的思路是通过迭代过程中，通过分析网络的表现和突变来改变网络。...需要了解的基本概念是：NEAT是一个用来观察神经网络的性能和分析他们的行为的算法。如果行为分析认为该神经网络的表现更好，那么该基因被选择，进入交配池。...NEAT更多应用用于ANNS(自适应神经网络)，而不是典型的神经网络，因为ANNS能在外部信息的基础上改变内部结构。...图8 CPPN分析神经网络/个体，并将行为类似的分为一类 在典型的NEAT场景中，交配池由代表网络结构的基因个体组成，它是一个多个体的概念。
crAIg的进化基于一种叫做“NEAT”的算法，它来自于一篇名为《运用增强拓扑使神经网络进化》（EvolvingNeural Networks through Augmented Topologies）...其次，你可以在非常低的位置看到一个标记为176的神经元，它被称为隐藏神经元，表示既不属于输入神经元也不属于输出神经元。随着crAIg不断进化，复杂度上升，隐藏神经元会出现在他的大脑中。...进化神经模型为何酷炫 当学习玩超级马里奥变成单纯地应用神经网络和进化神经模型，这个游戏在很大程度上就成为了一种展示这些自我进化的神经网络的方法。...NEAT（增强拓扑的神经网络进化，NeuroEvolution ofAugmented Topologies） 如果你好奇于神经网络进化遇到的问题背后是怎样的历史，我非常推荐你读一下这个算法的论文（就是前面提到的那一篇...论文第一部分论述了实现神经网络进化的许多方法和它们各自的优点。 NEAT是一种基因算法，它测试了crAIg大脑的每一次迭代运算，然后从中遴选出质量高的、繁衍它们的后代，与自然界中物种的进化非常相似。
来源：AI科技评论本文共5100字，建议阅读15分钟本文通过微分几何学和代数拓扑学的视角讨论图神经网络系列的部分内容。 图形神经网络（GNNs）通常将其计算图与输入图的结构相一致。...本文仅是通过微分几何学和代数拓扑学的视角讨论图神经网络系列的部分内容。 从计算机网络到大型强子对撞机中的粒子相互作用，图可以用来模拟任何东西。...在拓扑数据分析（TDA）的保护伞下，诸如浅层复合物这样的拓扑结构已经被用于机器学习和数据科学，这类方法出现在20世纪90年代，试图以一种对度量不敏感和对噪声稳健的方式来分析“数据的形状”。...TDA的根源可以追溯到20世纪20年代末最多产的拓扑学家之一 Leopold Vietnam oris 的工作。然而，这些技术必须等到现代计算的诞生才能大规模应用。...第一个简单的神经网络模型实际上是基于霍奇拉普拉斯的卷积模型，反之，又受到拓扑信号处理的启发。就在最近，基于该算子的一个版卷积模型被用于解决计算代数拓扑学中的NP-hard问题。
本文仅是通过微分几何学和代数拓扑学的视角讨论图神经网络系列的部分内容。 从计算机网络到大型强子对撞机中的粒子相互作用，图可以用来模拟任何东西。...在拓扑数据分析（TDA）的保护伞下，诸如浅层复合物这样的拓扑结构已经被用于机器学习和数据科学，这类方法出现在20世纪90年代，试图以一种对度量不敏感和对噪声稳健的方式来分析“数据的形状”。...TDA的根源可以追溯到20世纪20年代末最多产的拓扑学家之一 Leopold Vietnam oris 的工作。然而，这些技术必须等到现代计算的诞生才能大规模应用。...分层建模 拓扑信息传递执行的计算是分层的，信息从低维单元流向高维单元并返回，可看作是“垂直”（和可区分）池的一种形式，而非标准图神经网络中的“水平”池。...第一个简单的神经网络模型实际上是基于霍奇拉普拉斯的卷积模型，反之，又受到拓扑信号处理的启发。就在最近，基于该算子的一个版卷积模型被用于解决计算代数拓扑学中的NP-hard问题。
2002 年，Stanley 和 Miikkulainen 引入了增强拓扑的神经进化方法（NeuroEvolution of Augmenting Topologies，NEAT）[7]，NEAT 定义了基因与神经网络中的连接的映射关系...CPPN 是一个由 NEAT 基因-网络映射关系定义的神经网络，并可以根据适应性函数对给定 CPPN 实例进化出的任务网络的打分，应用基因算法进行进化。...然而，NEAT 神经网络群体在进化时，这些网络并不是由基因组「生长」出来的，相反，由于 NEAT 网络是直接编码，它的网络进化也是直接由范例定义的。...图 6：相比于由基因组直接编码神经网络（比如NEAT），Pollack 和他的同事 [11] 选择应用可以调控神经网络发展的基因控制网络来调控网络的进化，这种方法更类似于生物学上的基因指导人类由胚胎期发育至成人期的机制...结构化筛选繁殖和死亡智能体的机制：在应用了适应性函数的算法中，典型的筛选机制是挑选出表现最好的智能体进行繁殖，并淘汰同世代的其他智能体。
基于NEAT算法的马里奥AI实现所谓NEAT算法即通过增强拓扑的进化神经网络（Evolving Neural Networks through Augmenting Topologies），算法不同于我们之前讨论的传统神经网络...，它不仅会训练和修改网络的权值，同时会修改网络的拓扑结构，包括新增节点和删除节点等操作。...下图我们展示了算法从最一开始简单的神经网络，一直训练到后期的网络 [1502763308993_8325_1502763309346.png] 利用NEAT算法实现马里奥的只能通关的基本思想便是...，利用上面NEAT算法的基本观点，从游戏内存中获取实时的游戏数据，判断马里奥是否死忙、计算Fitness值、判断马里奥是否通关等，从而将这些作为神经网络的输入，最后输出对马里奥的操作，包括上下左右跳跃等操作...： 漫谈ANN(1)：M-P模型 漫谈ANN(2)：BP神经网络 卷积神经网络 R.Sutton et al.
目前的研究主要集中在机器学习和进化计算的集成上，其目标是将人工智能应用于现实世界的设计和控制问题。...在这项工作中，我们受到自然界进化的早成行为的启发，开发了具有自然就能够执行给定任务的架构的神经网络，即使其权重参数是随机采样的。...拓扑搜索(Topology Search) 用于神经网络拓扑搜索的运算符(operators)受到神经进化算法NEAT的启发。...在NEAT中，拓扑和权重值同时优化，这里我们忽略了权重值，只应用拓扑搜索运算符。 用于搜索网络拓扑空间的运算符 左：一个最小的网络拓扑结构，输入和输出仅部分连接。 中间：网络以三种方式进行改变。...第一个任务：CartPoleSwingUp，这是一个典型的控制问题，在给定的推车连杆系统下，杆必须从静止位置摆动到直立位置然后平衡，而推车不会越过轨道的边界。这个问题无法用线性控制器解决。
来源：机器之心本文约3000字，建议阅读5分钟本文展示了如何使用这些领域的工具重新解释图神经网络并解决一些常见困境。 微分几何和代数拓扑在主流机器学习中并不常见。...其中一些求解器在流行的 GNN 架构中没有直接的类比，可能会促成一些新型图神经网络设计。由于我们考虑的扩散 PDE 可以看作是一些相关能量的梯度流 ，因此这种架构可能比典型架构更易于解释。...表达性的另一种选择是放弃根据节点和边来考虑图，而是把图看作单元复合体（cell complex）对象的示例，单元复合体是代数拓扑领域的主要研究对象之一。...总结 这些例子表明，微分几何和代数拓扑为图机器学习中重要且具有挑战性的问题带来了新的视角。在本系列的后续文章中，我将更详细地展示如何使用这些领域的工具来解决上述图神经网络问题。...第二部分将讨论代数拓扑如何提高 GNN 的表达能力。第三部分将讲解几何扩散偏微分方程。
选自medium 机器之心编译 参与：Nurhachu Null、路雪 本文介绍了一种机器学习方法：通过增强拓扑的进化神经网络（Evolving Neural Networks through Augmenting...在这篇文章中我要阐述一种机器学习方法，叫作「通过增强拓扑的进化神经网络」（Evolving Neural Networks through Augmenting Topologies，NEAT）。...NEAT 指「Networks through Augmented Topologies」（通过增强拓扑的进化神经网络），描述了自学习机器的算法概念，这些算法概念受启发于进化过程中的遗传修饰（genetic...地址：http://nn.cs.utexas.edu/downloads/papers/stanley.ec02.pdf 摘要：神经进化领域的一个重要问题是如何利用带有权重的进化神经网络拓扑。...我们展示了一种方法，即通过增强拓扑的进化神经网络（NeuroEvolu- tion of Augmenting Topologies，NEAT），该方法在有挑战性的基准强化学习任务中的表现优于最好的固定拓扑
NEAT全称是增强拓扑神经网络（Neuroevolution of augmenting topologies），描述了在人类进化过程中被遗传修饰所启发的机器学习算法概念。 ? 生命是很奇妙的。...而具有创造力的计算机科学家的目标则是通过模仿自然进化规律来构建系统以此解决复杂的问题。 描述NEAT如何工作的最简单方法便是举一个例子。...现有的网络可以自我优化，NEAT将迭代数字添加到作为历史标记的每个基因上。 ? 上图展示了通过添加连接和节点进行的突变。在图中的例子中禁用从2-4的连接，并创建从3-5的新连接。...[Stanley, Miikkulainen, Page 109, NEAT] 现在或多或少你应该都已经了解了，NEAT在整个游戏中不断继承，计划出新的神经网络来优化其适应值。...一个例子是可以通过列出所有已知的原子来创建新的药物，合理的定义适应值使得模拟能够理解奖励制度并最终朝此方向进化。另一个NEAT的应用是可用于选择生产新药物的技术。
问耕 编译整理 量子位 出品 | 公众号 QbitAI 神经网络持续在游戏界立功，这次拿下的是经典游戏：《马里奥赛车64》，而且只需要很小的计算力就能完成。...先来看看成果，这段视频是训练两天半之后的表现，神经网络已经变成老司机了，漂移、撞车都玩得666~ 这套玩转《马里奥赛车64》的AI，是一个在BizHawk模拟器中基于NEAT算法搭建的神经网络，使用Lua...所谓NEAT算法，全名是NeuroEvolution of Augmenting Topologies，增强拓扑神经网络。这是一种使用遗传算法进化人工神经网络的方法。...NEAT的理念是从小型、简单的网络开始，然后逐渐向复杂的网络进化升级。...NEAT的交流讨论页在此： https://www.cs.ucf.edu/~kstanley/neat.html 关于NEAT的更多细节，可以参考这篇论文《Evolving Neural Networks
选自towardsdatascience 作者：Michael Bronstein 机器之心编译 编辑：Juniper 微分几何和代数拓扑在主流机器学习中并不常见。...其中一些求解器在流行的 GNN 架构中没有直接的类比，可能会促成一些新型图神经网络设计。由于我们考虑的扩散 PDE 可以看作是一些相关能量的梯度流 ，因此这种架构可能比典型架构更易于解释。...表达性的另一种选择是放弃根据节点和边来考虑图，而是把图看作单元复合体（cell complex）对象的示例，单元复合体是代数拓扑领域的主要研究对象之一。...总结 这些例子表明，微分几何和代数拓扑为图机器学习中重要且具有挑战性的问题带来了新的视角。在本系列的后续文章中，我将更详细地展示如何使用这些领域的工具来解决上述图神经网络问题。...第二部分将讨论代数拓扑如何提高 GNN 的表达能力。第三部分将讲解几何扩散偏微分方程。
CPPN—NEAT 我一直对斯坦利的NEAT算法着迷。NEAT是从简单的单层网络逐步演化成复杂的神经网络拓扑结构的一种方法。...为了使得事情更有趣，我馈送从原点到（x，y）的距离，这也是一种是典型的神经网络的偏差输入。“馈送距离”的效果在这篇CPPN-NEAT的论文中是一个辉煌的发现。...在这个过程的开始，一批简单的拓扑结构的随机网络被用来产生一串随机的图像，用户可以选择保留一小部分的图像，通过基因算法（NEAT）来产生新一系列的图像。...这使得图像在进化的早期阶段变得更加有趣和复杂，甚至2-3步，正如文章中提到的那样，我也能看到这种效果。...换句话说，应用NEAT来发现能够在backprop环境中工作的子网络以用于其他机器学习任务。看看我们是否能通过进化发现下一个LSTM，并拥有所有这些额外可区分的门类型!
》一书第二版（参考资料[1]），由5个部分组成，讨论了人工智能的5个主要研究领域：逻辑智能、概率智能、涌出智能（Emergent Intelligence，基于群体智能的进化计算和方法）、神经智能(神经网络和深度学习...TDA结合了代数拓扑和统计学习的工具，为研究数据的“形状”提供了定量基础。拓扑数据分析技术正在与我们今天所熟悉的人工智能技术相结合。早期的例子是计算机视觉拓扑学（参考资料[2]）。...拓扑数据分析量化了大原始噪声数据中隐藏的拓扑结构,将拓扑数据分析和机器学习结合起来，可用于解决计算机视觉实际问题，以及更深入的理解数字图像。又如，深度神经网络的拓扑学。...对卷积深神经网络的内部状态进行拓扑数据分析，可以了解它们所执行的计算（参考资料[3]）。神经网络还可以通过改变拓扑结构来运行，将拓扑结构复杂的数据集，转换为拓扑简单的数据集（参考资料[4]）。...据报道，2020年8月11日，著名科学家姚期智在受聘同济大学名誉教授举行的学术报告会上，分享了对当前人工智能（AI）研究（人工智能的科学基础、神经拓扑结构——神经网络研究的新视角、隐私保护学习、可控超级智能等
相比之下，我们在训练智能体执行任务时，会选择一个典型的神经网络框架，并相信它有潜力为这个任务编码特定的策略。注意这里只是「有潜力」，我们还要学习权重参数，才能将这种潜力变化为能力。...通过每次 rollout 时采样单个共享权重，与权重无关的神经网络搜索在避免权重训练的同时，探索神经网络拓扑结构的空间。...然后，根据概率选出排名最高的网络以生成新的群组，排名最高的网络是会随机变化的。之后重复这一过程。 最最核心的拓扑搜索 用于搜索神经网络拓扑的算子受到神经进化算法 NEAT 的启发。...不过 NEAT 中的拓扑和权重值是同时进行优化的，而本研究无视权重，仅使用拓扑搜索算子。 最初的搜索空间包括多个稀疏连接网络、没有隐藏节点的网络，以及输入和输出层之间仅有少量可能连接的网络。...上图右：在所有数字上具有更高准确率的单个权重值不存在。WANN 可被实例化为多个不同网络，它们具有创建集成的可能性。 ? MNIST 分类网络进化为可以使用随机权重。
该算法不仅搜索最优的网络拓扑（network topology），而且还对超参数(如学习或数据扩充参数)进行调优。...任务的目标是对目标识别任务的准确性进行最大化。 为了分析进化的拓扑结构的普遍化和可伸缩性能力，我们采用了最好的卷积神经网络拓扑，并在CIFAR-10基准的分类上对它们进行了测试。...卷积神经网络在CIFAR-10数据集上的进化 我们在卷积神经网络的生成上进行了10次进化运行，以进行CIFAR-10数据集的分类。...图2:深度进化网络结构表示找到的最好的网络拓扑结构 图2展示了在进化过程中发现的最适当的网络(在验证精度方面)。进化的网络最令人费解的特征是在拓扑学结束时使用的密集层的重要性和数量。...这些结果的表现超过了那些为卷积神经网络的进化而采用的数据扩充方法的文献。
crAIg的进化基于一种叫做“NEAT”的算法，它来自于一篇名为《运用增强拓扑使神经网络进化》（EvolvingNeural Networks through Augmented Topologies）...进化神经模型为何酷炫 当学习玩超级马里奥变成单纯地应用神经网络和进化神经模型，这个游戏在很大程度上就成为了一种展示这些自我进化的神经网络的方法。...NEAT（增强拓扑的神经网络进化，NeuroEvolution ofAugmented Topologies） 如果你好奇于神经网络进化遇到的问题背后是怎样的历史，我非常推荐你读一下这个算法的论文（就是前面提到的那一篇...论文第一部分论述了实现神经网络进化的许多方法和它们各自的优点。 NEAT是一种基因算法，它测试了crAIg大脑的每一次迭代运算，然后从中遴选出质量高的、繁衍它们的后代，与自然界中物种的进化非常相似。...其层级是这样的： 突触/神经元：构建出crAIg大脑的组成部分 基因组：crAIg大脑的一次迭代，本质上是一堆神经元和突触。 物种：一堆基因组 世代：NEAT算法的一次迭代。
在算法的世界中，与此相对的概念称为神经进化。人工神经网络复制学习具体概念的过程，而神经进化则试图复制人脑神经的进化过程---只有最强的（或最聪明）的过程才能留存。...虽然神经进化论是在20世纪80年代提出的，但随着研究人员深挖历史寻找机器学习的不同角度，这个理论得到了他们越来越多的关注。...他表示，在20世纪80年代，神经进化理论和神经网络是同等重要的研究领域。 “曾经有一个小部分人在思考人脑是如何产生的，人脑才是自然界生成的智能概念的唯一验证。”...早在2002年，斯坦利还处于事业初期，写了一个名为NEAT的算法，可以让神经网络随着时间进化成更庞大更复杂的版本。相关论文在谷歌学术上引用超过1600次。...2006年，斯坦利发布了Hyper-NEAT算法，可以让神经网络的进化规模更大。算法的灵感源自于DNA。DNA虽然只有3万个左右的基因，却是数十亿个生物神经元及数万亿个神经元连接的蓝图。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
云直播
对象存储
实时音视频
