Imec和GLOBALFOUNDRIES宣布AI芯片取得突破,将深度神经网络计算带到IoT边缘设备
比利时鲁汶和加利福尼亚州圣克拉拉,2020年7月8日-世界领先的纳米电子和数字技术研究与创新中心Imec和全球领先的专业代工厂GLOBALFOUNDRIES®(GF®)今天宣布,新型人工智能芯片的硬件演示。该新芯片基于imec的采用GF22FDX®解决方案的模拟内存计算(AiMC)架构,经过优化,可在模拟域中的内存计算硬件上执行深度神经网络计算。该加速器可实现创纪录的高达2900 TOPS / W的能效,是低功耗设备边缘推理的关键推动力。这项新技术的私密性,安全性和延迟优势将对从智能扬声器到自动驾驶汽车等各种边缘设备的AI应用产生影响
从数字计算机时代的早期开始,处理器就与内存分离了。使用大量数据执行的操作需要从存储器中检索相似数量的数据元素。这种限制称为von Neumann瓶颈,可能使实际的计算时间蒙上阴影,尤其是在神经网络中(取决于大型矢量矩阵乘法)。这些计算以数字计算机的精度执行,并且需要大量的能量。但是,如果在模拟技术上以较低的精度执行向量矩阵乘法,则神经网络也可以实现准确的结果。
Ad |
Complete Neural Processor for Edge AI Neural network-based speech recognition technology for voice assistants and IoT devices |
为了应对这一挑战,imec及其在包括GF在内的imec工业联盟机器学习计划中的工业合作伙伴开发了一种新架构,该架构通过在SRAM单元中执行模拟计算来消除冯·诺依曼瓶颈。基于GF的22FDX半导体平台构建的模拟推论加速器(AnIA)具有出色的能源效率。表征测试表明,功率效率达到了每瓦每秒2,900兆兆位运算(TOPS / W)的峰值。微型传感器和低功耗边缘设备中的模式识别通常由数据中心的机器学习提供支持,现在可以在此节能型加速器上本地执行。
imec机器学习程序主管Diederik Verkest说:“成功完成AnIA的发布标志着朝着验证内存计算(AiMC)迈出了重要的一步。” “参考实现不仅表明在实践中可以进行模拟内存计算,而且其能效比数字加速器高十到一百倍。在imec的机器学习程序中,我们调整现有和新兴的存储设备,以优化它们以进行模拟内存计算。这些令人鼓舞的结果鼓励我们进一步发展这项技术,并朝着10,000 TOPS / W的目标迈进。”
GF计算和有线基础设施产品管理副总裁Hiren Majmudar说:“ GlobalFoundries与imec紧密合作,以使用我们的低功耗,高性能22FDX平台实施新的AnIA芯片。” “该测试芯片是向业界展示22FDX如何显着降低能耗密集型AI和机器学习应用程序功耗的关键一步。”
展望未来,GF将把AiMC作为一项功能,能够在22FDX平台上实现,以在AI市场领域提供差异化解决方案。 GF的22FDX采用22纳米FD-SOI技术,以极低的功率提供出色的性能,并能够以0.5伏的超低功率和每微米1皮安的运行能力实现超低的待机泄漏。具有新AiMC功能的22FDX正在GF在德国德累斯顿Fab 1的最先进300mm生产线上进行开发。
|