(全球TMT2023年9月18日讯)9月14-15日,2023全球AI芯片峰会(GACS 2023)在深圳正式举行。奎芯科技副总裁王晓阳发表主题为《驱动云/边缘侧算力建设的高性能互联接口方案》的演讲。王晓阳分享了AIGC产业算力需求引发的芯片互联趋势,并对算力芯片瓶颈进行了分析,提出了奎芯内存互联解决方案和Chiplet落地解决方案。
奎芯科技副总裁王晓阳在GACS 2023芯片架构创新专场进行演讲
当前,AIGC的发展推动了算力需求快速增长,但由于内存带宽和I/O带宽发展速度的相对滞后,大模型训练和推理面临内存墙和I/O墙。此外,未来大模型进行推理部署时,比起芯片的算力和工艺,对于内存容量和带宽的要求更高。针对大模型推理这类访存密集型任务,对其算力需求的估计不能只考虑FLOPs的需求,更重要的瓶颈在于内存带宽,使用奎芯M2link 互联方案可以增加封装内的HBM容量,增加SOC的有效可使用算力面积。
领取专属 10元无门槛券
私享最新 技术干货