最近几年AI芯片可谓处在IC的风口,由此也催生了一大批做AI芯片的公司,比如寒武纪,璧仞科技,商汤旷视等新兴公司。各种老牌IC公司比如华为海思,英伟达也纷纷入局。
深度学习是怎么样应用到芯片中的呢?
如下图,是一款手机SOC芯片,里边包含了各种功能模块,除了传统的善于处理任务和发号施令的CPU,以及擅长图形处理的GPU,这些模块里多了一个新面孔--NPU(Neural Network Processing Unit)神经网络处理器。
NPU用于加速神经网络的运算,解决传统芯片在神经网络运算时效率低下的问题。
SOC芯片示意图
深度学习在IC中的应用就是让芯片的效率更高,性能更好。这也是除了架构优化,工艺改进外,芯片发展的一个新方向。
深度学习处于产业链上游
从SOC设计的角度讲,深度学习(在这里可以泛指算法)应该在IC设计的上游,比如说要设计一款针对于具体问题的产品,具体点说,甲方要一款能够自动识别人脸的产品,那么乙方(设计团队)首先会先从算法深挖,选择什么样的神经网络,选择什么样的迭代方式,激活参数,内置参数等等条件保证在要么在算法层面上能够达到准确率最优,要么在准确率允许的情况下,保证电路开销等条件达到最优;当算法确定下来后,就可以根据算法(网络框架)进行具体的SOC设计了,你选择什么样的SRAM存储你的权重,选择多少位宽的乘法器,选择什么样的总线进行通信协议等等,除此之外,你可能还要设计一些模拟IC电路部分,比如如果你要采用多电源供电以节省功耗的话可能需要电源管理模块,如果你对整体电路时钟的要求较高,你可能需要好的PLL;当然,你如果做人脸识别的话,你还需要一个摄像头接口电路,把摄像头输出的数据去帧化变成纯数据流进行处理等等;
深度学习对IC设计的反哺
深度学习也可以反哺ic设计。神经网络可以帮助IC后端进行布局布线,效果很显著;同时,深度学习也可以帮助设计工具EDA进步发展。
在人工智能的影响和摩尔定律逐步失效的情况下,芯片架构设计和定制化要求成为当下IC设计的主旋律,这让传统EDA工具也露出了自身的局限性。
2015年,应DAPRA要求,为迎合AI带来的定制化需求去改进EDA,加州大学伯克利分校6名研究生尝试采用了全新的EDA语言和技术来验证该校RISC-V中心的BOOM-2项目。结果有些出乎意料,他们仅花了6个月就完成了含有25M个晶体管的设计。与此相比,受深度学习影响之累,英伟达的出手确实太“阔绰”了些。也因此,传统EDA工具的局限性显露无疑。
在深度学习、云计算等技术的影响下,半导体产业在自动驾驶汽车、智能汽车、物联网等新兴领域的驱动下迎来了新一轮发展高潮,IC设计的各个环节与设计方法都在发生改变,芯片设计的复杂度大大提升,数字系统的设计周期和设计成本压力激增。且现在随着电子行业的长尾效应,沿着尾部走得越远,设计成本占总成本的比例就越大。
对于Fabless公司来说,设计占据的比重越来越大,使用EDA工具会有诸多好处,比如缩短上市时间、降低产品设计和开发成本,同时可以促进设计可靠、高速、高密度的集成电路。
对于EDA厂商来说,受自身局限性和降低成本需求强烈的“双面夹攻”,变革确实不得不为。但落实到细节上,他们不仅要解决因此暴露出的历史遗留的诸如数据共享、工具接口等管理问题,还要完成定制化要求带来的硬件语言和系统框架结构上的革新。这不可谓不是一道难题。
为了应对变化,2017年Mentor公司正式对外宣布全面调整战略,称要率先带动EDA 4.0,并打造将多种高级验证技术无缝连接形成一个综合性的服务平台,从而大大提高ASIC和现如今大火的SoC功能验证的生产效率。与此同时,Synopsys、Cadence也不落后,一边在接触科技巨头一边也在AI领域动作频频。
有意思的是,在压力的驱使下,EDA厂商不仅将AI融入到了EDA生态建设中,以解决设计复用、档案反复、零件琐碎、自动化不足等工具问题,在这之外,他们还关心起了FinFETs、3D-IC等新工艺,参与新架构的设计,同时关心5G、自动驾驶、云计算等前沿技术。在创新技术的关注度和参与度上,EDA厂商堪比前沿科技巨头。
对此,Cadence产品管理总监Dave Pursley曾公开给出解释,“目前处于前沿的公司是对EDA工具影响最大的公司,因我们希望通过接触他们来训练我们的工具,然后让行业的其他人使用这些工具,同时改善这一流程。”
IC设计支持深度学习的发展
IC设计可以从体系架构出发帮助深度学习设计神经网络加速器,通过pipeline,总线协议,合理的资源分配等帮助加速算法;IC设计也可以从事神经形态芯片的搭建,为深度神经网络提供算法硬件实现的平台,比如说最近很火的intel Loihi芯片,就是一款神经形态网络芯片;而在今年3月发表在Nature 子刊Machine Intelligence的一篇文章《Rapid online learning and robust recall in a neuromorphic olfactory circuit》,就是将嗅觉算法实现在loihi芯片上中,这种软硬件结合的方式也让这篇文章登上Nature Machine Intelligence的封面。
总体来说,二者的交叉领域很大,无论是具体的算法落地实现具体的某一种功能,抑或是采用深度学习实现ic更好的后端实现,抑或是从体系架构出发设计神经网络加速器等等角度都可以。
领取专属 10元无门槛券
私享最新 技术干货