选自medium 机器之心编译 参与：Nurhachu Null、路雪 本文介绍了一种机器学习方法：通过增强拓扑的进化神经网络（Evolving Neural Networks through Augmenting Topologies，NEAT）。该方法受到进化过程的启发，能够将复杂问题分解，进而解决问题。 在这篇文章中我要阐述一种机器学习方法，叫作「通过增强拓扑的进化神经网络」（Evolving Neural Networks through Augmenting Topologies，NEAT）。
深度进化网络结构表示（DENSER）是一种利用进化计算自动设计人工神经网络(ANNs)的新方法。该算法不仅搜索最优的网络拓扑（network topology），而且还对超参数(如学习或数据扩充参数)
编者按：近年来，神经网络借鉴了生物学策略的相关理论知识，实现了大飞跃，完成了之前无法完成的任务。神经进化作为人工智能的一个研究领域，试图通过进化算法而非随机梯度下降来设计和构建神经网络。本文作者Paul Pauls，作为机器学习GDE和开源爱好者，他在Medium上写了一篇关于神经进化算法的文章，详细介绍了神经进化算法的基本概念，以及这几年重要的研究成果。
问耕 编译整理 量子位 出品 | 公众号 QbitAI 神经网络持续在游戏界立功，这次拿下的是经典游戏：《马里奥赛车64》，而且只需要很小的计算力就能完成。 先来看看成果，这段视频是训练两天半之后的表
Joe Crozier 和我最近刚从YHack 回来，那是一个耶鲁大学举办的36小时编程马拉松，有1500人参加。这是我们连续第二年参加这个比赛，也是我们第二次成功进入前8 ！ 我们的项目，“crAI
我们可以通过在Javascript中逐步形成神经网络来发展抽象艺术。见这里的画廊(gallery)。点这里尝试Web应用程序，并从头开始不断发展自己的艺术作品！
来源：Medium 作者：Nikolai Savas 翻译：王婉婷 Joe Crozier 和我最近刚从YHack 回来，那是一个耶鲁大学举办的36小时编程马拉松，有1500人参加。这是我们连续第二年
作者 | Murat Vurucu 编译 | 聂震坤 什么是NEAT？ NEAT全称是增强拓扑神经网络（Neuroevolution of augmenting topologies），描述了在人类进
网按：本文为Cookie Engineer写就，主要对机器学习进行了简单的介绍，AI科技评论编译，未经许可不得转载。 经常有人问我如何开始学习机器学习，他们面临的最大困难就是机器学习背后的数学原理。我承认其实我也不喜欢数学。数学是对事物的一种抽象描述，用数学来描述机器学习，会过于抽象，且不容易理解。因此在这个系列的文章中，我尝试使用伪代码或者JavaScript来描述我所讲述的内容。 我在GitHub上创建了项目仓库，我会将一些实验代码同步到代码库中，以便您可以跟随我的步骤，或者在这些实验代码之上实现自己的
大概自 2012 年以后 [1]，人工智能行业的爆发式增长几乎都是反向传播训练的（深度学习）神经网络模型所带来的。包括用于图形分类、自动语音识别、语言翻译、机器人以及能玩单人或多人游戏的自主智能体等领域的模型。
开放的环境与物种间的竞争是达尔文进化论中实现自然进化的两个重要的驱动力，而这两个驱动力在最近的 AI 模型演进方法的研究工作中却没有体现出来，在同一个世代中，更快的黑斑羚和更快的猎豹比它们更慢的同类更容易生存下来——由此进化出更快的黑斑羚和猎豹品种。基于基因和自然选择理论的这些原理可以帮助AI获得大的进步么？
选自CISUC 作者：Filipe Assunção 等 机器之心编译 参与：程耀彤、李泽南 在为特定任务构建神经网络算法时，想要达到最佳性能需要大量的设计和手动调整。葡萄牙科英布拉大学计算设计和可视化实验室的研究者们利用进化算法的策略提出了深度进化网络结构表征（DENSER），可以自动进行多层深度神经网络的结构设计和参数调优，在没有先验知识的情况下，该方法生成的神经网络达到了业内最佳性能。 论文：DENSER: Deep Evolutionary Network Structured Representa
AI科技评论消息，最近，Youtube 上的知名游戏博主 SethBling 训练了一个叫 MariFlow 的神经网络来玩 Mario Kart 游戏。在进行15个小时的游戏训练并做了一些针对性的改进后，这个神经网络在 50cc Mushroom Cup 中获得了金牌。 这并不是 SethBling 第一次在游戏中应用神经网络“通关”。此前 SethBling 曾经创建了另一个神经网络MarI/O，通过训练，这个神经网络自己演变成玩“超级马里奥世界”（Super Mario World）的高手。SethB
前不久，我们报道了谷歌给出首个神经网络训练理论的证明。这一研究在训练深度神经网络被戏谑为 “调参炼丹” 的当下，犹如一道希望的强光，射进还被排除在 “科学” 之外的深度学习领域，激动人心。
Youtube 上的知名游戏博主 SethBling训练了一个叫 MariFlow 的神经网络来玩 Mario Kart 游戏。看懂他怎么做的，你也能举一反三。 最近，Youtube 上的知名游戏博主 SethBling 训练了一个叫 MariFlow 的神经网络来玩 Mario Kart 游戏。在进行15个小时的游戏训练并做了一些针对性的改进后，这个神经网络在 50cc Mushroom Cup 中获得了金牌。 这并不是 SethBling 第一次在游戏中应用神经网络“通关”。此前 SethBling 曾
前不久，新智元报道了谷歌给出首个神经网络训练理论的证明。这一研究在训练深度神经网络被戏谑为 “调参炼丹” 的当下，犹如一道希望的强光，射进还被排除在 “科学” 之外的深度学习领域，激动人心。
昨天，谷歌大脑 David Ha 等人一篇名为《Weight Agnostic Neural Networks》的论文引爆了机器学习圈。其「颠覆性」的理论让人惊呼：「到头来我们对神经网络一无所知？」
它在MNIST数字分类任务上，未经训练和权重调整，就达到了92%的准确率，和训练后的线性分类器表现相当。
【新智元导读】神经演化方法在上世纪80年代被提出，由于神经网络的兴起而一度遭受冷遇。不过现在，谷歌大脑和 OpenAI 都在重新审视这种方法。通过在深度学习中引入大自然的智慧——演化/适者生存，我们能够得到更聪明、更有效的算法吗？ 现代人工智能被开发来模仿自然——人工智能领域的主要追求是在计算机里复制人类生理决策的过程。 30 多年来，大多数 AI 在类脑方面的发展都围绕着“神经网络”，这个词借用了神经生物学的术语，将机器思维描述为数据在神经元——彼此相连的数学函数——之间的运动。但自然还有其他的妙法：计
选自QZ 作者：Dave Gershgorn 机器之心编译 参与：吴攀、黄小天、李亚洲 现代机器智能建立在模仿自然的基础之上——这一领域的主要目的是在计算机中复制人类通过生物方式具备的强大决策能力。
国际财经媒体Quartz报道，据谷歌和美国“开放人工智能实验室”(OpenAI)的一项研究，类达尔文进化论的神经进化理论可以帮助人工智能算法进化优化。 现代人工智能是为了模仿自然而生，其最主要的目标就是将人类天生的决策能力复制到计算机中。 受人脑工作方式的启发，近三十年来人工智能的发展都围绕着“神经网络”。神经网络的概念借用自神经生物学，将机器的思考描述为在神经元这种相互连接的数学功能单元之间的数据传递。但是，自然界还有其它一些好概念。计算机科学家目前正在重新审视一门古老的学科，并建议将进化过程引入到人工智
使用Python实现《Flappy Bird》类，主要包括物理引擎和死亡机制以及像素精度碰撞检测
机器之心原创 作者：Angulia Chao 参与：Joni、侯韵楚、高振 让机器具备生物一样的进化能力一直是计算机科学的一个热门研究领域，今年三月份，谷歌的多位研究者提出了一种图像分类器的大规模进化方法，机器之心也曾报道过这项研究，参阅：《深度 | 谷歌和 OpenAI 新研究：如何使用达尔文进化论辅助设计人工智能算法？》。研究发布之后，机器之心的技术分析师又对这项重要研究进行了更加深度细致的解读。 论文：图像分类器的大规模进化（Large-Scale Evolution of Image Classi
神经网络训练中 “权重” 有多重要不言而喻。但谷歌前段时间发表的研究表明，即使抛弃神经网络权重训练，使用随机共享权重，也可以执行各种任务。
QQ图片20180204220437.jpg
无论是图像分类还是强化学习，在通过训练神经网络来完成一项给定任务时，都需要对神经网络中每个连接的权重进行调优。
利用递归神经网络玩的"史莱姆排球"游戏。你能打败AI吗？
在嵌入式系统上的深度学习 随着人工智能 (AI) 几乎延伸至我们生活的方方面面，主要挑战之一是将这种智能应用到小型、低功耗设备上。这需要嵌入式平台，能够处理高性能和极低功率的极深度神经式网络 (NN)。然而，这仍不足够。机器学习开发商需要一个快速和自动化方式，在这些嵌入式平台上转换、优化和执行预先训练好的网络。 在这一系列发布的内容中，我们将回顾当前框架以及它们对嵌入式系统构成的挑战，并演示处理这些挑战的解决方案。这些发布的内容会指导你在几分钟之内完成这个任务，而不是耗时数月进行手动发布和优化。 深度学习框
一开始，它们什么都不懂，刚开局就GG。但有了进化算法 (Evolution) ，AI可以在一代一代更迭中，掌握强大的游戏技能。
我记得在当年Java小程序仍然很受欢迎的时候有个游戏叫“软泥小排球”。虽然这个游戏在物理上面有一些投机取巧的部分，但是许多跟我一样的孩子却被它深深的吸引了，并且日以继夜的花费时间在宿舍打游戏而没有做其他实际性工作。
Machine Learning Mastery 计算机视觉教程 通道在前和通道在后图像格式的温和介绍 深度学习在计算机视觉中的 9 个应用 为 CNN 准备和扩充图像数据的最佳实践 8 本计算机视觉入门书籍 卷积层在深度学习神经网络中是如何工作的？ DeepLearningAI 卷积神经网络课程（复习） 如何在 Keras 中配置图像数据扩充 如何从零开始为 CIFAR-10 照片分类开发 CNN 用于 Fashion-MNIST 服装分类的深度学习 CNN 如何为 MNIST 手写数字分类开发 CNN
强化学习的钟摆平衡问题我没有太多的研究。系统中似乎有许多状态，输出（电机速度）应该是一个连续的变量，它不能很好的工作，强化学习得到不同的速度，甚至产生更快、不变、更慢的离散状态。
终于把这篇NAS最新的综述整理的survey放了上来，文件比较大，内容比较多。这个NAS的survey是A Comprehensive Survey of Neural Architecture Search: Challenges and Solutions的写作过程中的整理的原材料，文章目前孩还在审稿阶段可以预览。
Chapter 2.8 Hybrid Algorithm: Neuroevolution
在单个处理器上处理图所需的时间是T_1 = W，在无限多个进程上处理图所需的时间是。计算中的平均并行度是，在个处理器上的执行时间受限于：
神经网络负责处理画面中的一切信息，包括远处的风景，你每按下一次键控制车左转或右转、车撞到边栏等操作。
一组神经元可以产生代表刺激信息的活动模式；随后，该小组可以通过突触将活动模式转换和传递到空间分布区域。神经科学的最新研究已经开始独立处理信息处理的两个组成部分:刺激在神经活动中的表示和模拟神经相互作用的网络中的信息传输。然而，直到最近，研究才试图将这两种方法联系起来。在这里，我们简要回顾一下这两种不同的文献；然后，我们回顾了最近在解决这一差距方面取得的进展。我们继续讨论活动模式如何从一种表示演变到另一种表示，形成在底层网络上展开的动态表示。我们的目标是提供一个整体框架来理解和描述神经信息的表达和传递，同时揭示令人兴奋的前沿领域未来的研究。
基于2-channel network的图片相似度判别 原文地址：http://blog.csdn.net/hjimce/article/details/50098483 作者：hjimce 一、相关理论 本篇博文主要讲解2015年CVPR的一篇关于图像相似度计算的文章：《Learning to Compare Image Patches via Convolutional Neural Networks》，本篇文章对经典的算法Siamese Networks 做了改进。学习这篇pape
如果我告诉你训练神经网络不需要计算梯度，只需要前项传播你会怎么样？这就是神经进化的魔力！同时，我要展示的是，所有这一切只用Numpy都可以很容易地做到！学习统计学你会学到很多关于基于梯度的方法，但是不久前我读了Uber AI的人写的一篇非常有趣的文章，他表明在解决Atari游戏时，简单的遗传算法与最复杂的基于梯度的RL方法是挺有竞争力的。我链接了下面的来源，如果你对强化学习感兴趣，我强烈建议你读一读。
A Review of Neuroscience-Inspired Machine Learning https://arxiv.org/abs/2403.18929
导语 在深圳的研发部培训中，我们组给定一个有趣的课题便是：马里奥游戏的智能通关，本文就神经网络和增强学习两个点进行整理，并将我们最后用的NEAT算法以及扩展找到的DRL算法进行了简单梳理。如果能够在游
这篇文章讨论了lncRNA的定义、命名、保守、表达、表型可见性、功能分析和分子机制，包括lncRNA与染色质结构、表观遗传过程、增强子功能和生物分子凝聚，以及lncRNA在核外的作用。
深度学习社区中对于大型神经网络的泛化性能已经有过很多讨论。尽管大型神经网络比更小的网络泛化得更好，但是原因并不是因为前者具有更多的权重参数，而是正如最近的一项研究工作所显示的，是因而更大的网络可以让优化算法在允许的一小部分解空间内找到好的解或者“彩票”。
属性网络在现实世界中被广泛的用于建模实体间的连接，其中节点的联通边表示对象之间的关系以及关于节点本身的描述中节点的属性信息。举了3个例子：
随着人工智能的全面回潮，类脑计算火起来了。和上一次日本人忽悠五代机时的毫无准备相比，咱中国这次说起来也争气，科学家、企业和政府都早早做好了准备，信心满满整装待发。拿神经器件的大规模互联来高保真地模仿人脑的构造和运作，涉及多学科交叉集成。它既是神经科学发展到现阶段在研究手段上的必然延展，也是人工智能为突破下一个重大瓶颈的大胆尝试，其学术意义怎么估计都不会过高。但几次会听下来，感觉即使是准备做这件事的人，对“类脑计算”的理解也不尽一致。如果说对“类脑计算”的理解停留在像有些学者主张的那样，仅模拟静态拓扑不模拟动
摘要：默认网络(DMN)是一组广泛分布于顶叶、颞叶和额叶皮层的大脑区域。这些区域通常在需要集中注意力的任务中表现出活动减少，但在多种形式的复杂认知中活动增加，其中许多与记忆或抽象思维有关。在大脑皮层内，DMN位于距离感觉和运动系统最远的区域。在这里，我们考虑如何利用我们对DMN的拓扑特征的知识，更好地理解该网络如何有助于认知和行为。 1 . 映射默认网络 虽然DMN最初是通过测量其在任务中的活性来识别的(图1b)，但通过研究其静止时的内在活性来绘制其结构已经取得了重要进展(图1a)。例如，研究评估了大脑区域的功能连通性(一种基于大脑不同区域的神经活动之间的时间相关性计算的度量)，表明DMN区域在休息时显示协调的时间活动，这是现在已知的大规模网络的定义特征。 研究人员还能够利用静息活动的测量来进一步分解DMN(图1c,d)。通过对不同个体进行平均的分析，即群体水平分析，表明DMN被分为三个子系统:一个固定在外侧颞区、背侧前额叶区和顶叶区(称为背侧内侧子系统)，第二组集中于内侧颞叶和外侧顶叶皮层(称为内侧颞叶子系统)，第三组被描述为参与中线顶叶和额叶区域(称为核心子系统)(图1c)。这些不同的子系统和不同类型的功能之间的映射已经在文献中提出(见下文关于DMN在高阶思想中的作用的讨论)。最近，对个体在休息和任务期间的深入分析提供了一个不同的视角。这些对单个个体的高分辨率研究表明DMN由两个独立并置的子网组成(图1d)。与上面描述的空间上不同的子系统不同，这两个子网络广泛分布，每个子网络包含大致相同的区域集，但组织成复杂的交错排列。 有人认为，这种在皮层区域的交错允许时间和空间信息的整合，这表明这种细粒度结构的发现可能为DMN有助于认知的机制提供线索。这些不同的DMN映射方式如何相互关联目前是一个悬而未决的问题。 还研究了DMN和其他神经系统之间的关系。研究表明，在任务期间与DMN相反的显示出大脑活动模式的区域(例如，随着任务的需要而增加活动)也显示出与休息时DMN区域的相关性相对降低的模式。 然而，最近采用多变量方法绘制神经功能的研究证实，DMN区域内的神经活动(如PMC)包含与不同系统(包括DMN以外的系统)的神经功能相关的信号。这些观察结果表明，DMN不仅形成了一个有凝聚力的网络，还可以代表在其他皮层系统中发生的大脑活动，这些活动代表了来自其他神经网络内的活动，通常被称为回声。因此，这些研究确定了DMN的活动也可以提供关于任务积极系统活动的信息，这一模式与经典观点不一致，即DMN本质上与涉及外部目标导向思维的区域隔离。 这一关于大脑功能的更复杂的观点已经通过应用一类与主成分分析相关联的皮层分解技术，以测量大脑活动和连通性而得以正式化。 这些方法生成了一系列大脑活动在大脑皮层分布的低维表示，每一种都描述了观察到的静止时大脑活动变化的独特模式。这些通常称为连通性梯度，并基于数据矩阵中的协方差模式。这些梯度根据初始数据中每个主成分所解释的方差的百分比(称为已解释方差)进行排序。 在每个梯度内，大脑区域的组织是基于他们观察到的活动模式彼此之间的相似性。在这些梯度中，聚集在一端的大脑区域随着时间的推移具有相似的活动波动，并且总体上与维度另一端的区域组表现出较少的相似性(它们在时间进程上也相似)。在一项将该技术应用于静息大脑活动的研究中，发现三个连接梯度中有两个涉及DMN(图1e,f)，这三个连接梯度解释了活动的最大差异，因此是关于皮层神经功能组织的最丰富信息。第一个梯度(解释了最大的差异)表明DMN与单峰皮层区域的差异最大，即视觉、听觉、躯体感觉和运动皮层占据这一维度的一端，而DMN占据另一端。相比之下，在第三个梯度中(根据解释的差异)，DMN的区域占据维度的一端，额顶叶网络占据另一端，该网络被认为是协调外部任务状态的。因此，对连接性梯度的分析表明，将DMN的内在活动定性为主要与任务正性系统的活动隔离或对抗，并不能提供其行为的完整表征。相反，正如我们下面将要讨论的，DMN的内在行为包含多种操作模式，其中一些与外部任务相关，而另一些则不相关。
2019年即将过去。国外最热论坛Reddit的机器学习板块，也为大家提供了一个优秀的学习讨论场所。
【新智元导读】利用机器学习技术代替人类专家来自动设计神经网络架构近期成为了一个热门研究话题。上海交大和MIT的研究团队提出一种新的高效神经架构搜索方法，解决了当前网络变换方法的局限性，且在十分有限的GPU算力下，达到了谷歌AutoML搜索神经网络架构的效果。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
