首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

脉冲神经网络的学习算法简介

生物神经系统具有强大的学习和适应环境的能力,其关键之处是神经元之间的可塑性,即由外界环境变化和神经过程引起的神经突触变化的调整能力。决定两个神经元之间连接强弱的参数被定义为突触权重。赫伯第一个提出了有关神经突触权重修改的假说。赫伯学习算法是学习和记忆的根本机制,可理解为“同时激发的神经元连接在一起”。它作为线性相关器被广泛用于不同的神经网络模型中。

虽然脉冲神经网络更注重神经生理学的学习方法,但是到目前为止,人们对生物神经系统中完整的学习过程仍然不是完全清楚。在过去的几十年里,科研人员从生物实验现象和结论中汲取灵感来探索神经突触理论。随着精确脉冲定时和突触前、后激发之间的时间间隔被发现,毫秒级精度学习受到了极大的关注。通过引入突触前后脉冲之间的时间相关,彼和珀提出了脉冲时间依赖的可塑性机制。该机制的核心是:反复出现的突触前脉冲有助于紧随其后产生的突触后动作电位的长期增强,而相反的时间关系将导致长期抑制。

由于基于脉冲时间的学习算法考虑了计算神经冲动时间和脉冲间隔,因而本质上与时域信号相匹配。我们将学习算法分为监督学习、无监督学习和强化学习。在脉冲神经网络领域,监督赫布学习是实现监督学习而又保证神经电路可行性的最直接的方法。它可以实现将输入脉冲序列映射到需求输出的脉冲序列。此外,考虑到其简单程度和有效性,是众多算法中较为突出的两种。

神经突触权重会根据突触前后脉冲时间差和“误差”信号的共同作用来进行更新,从而实现指导突触后神经元产生或不产生脉冲。值得注意的是,由于算法只考虑突触后神经元是否产生神经冲动,近年提出的精确脉冲驱动算法则是结合了这两种算法的简单性和对不同类型神经元的适应性。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180903A1AKGN00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券