晶心科技推出全新产品线AndesAIRE™ 对边缘与终端设备人工智能推理提供极高效率解决方案

【台湾新竹】— 2023 年 5 月 15日 —32/64位、高效能低功耗的RISC-V处理器核心领导供货商暨RISC-V国际协会创始首席会员晶心科技今日宣布全新产品线 AndesAIRE™ 或 Andes AI Runs Everywhere 正式上市，该解决方案为边缘及终端设备人工智能推理提供极高的计算效率。AndesAIRE™ 包含首代人工智能和机器学习（AI/ML）硬件加速器IP AndesAIRE™ AnDLA™ I350（Andes Deep Learning Accelerator），以及神经网络软件开发工具包 AndesAIRE™ NN SDK。

随着人工智能和机器学习（AI/ML）应用的爆炸性成长，高效能与高效率深度学习解决方案的需求不断增加。在此需求下，由于边缘和终端运作环境严格的功耗限制，使得仅仅依赖CPU架构变得困难。针对这样特别的挑战，晶心科技推出AndesAIRE™ AnDLA™ I350，提供行业领先的高效率、低功耗和小面积，非常适合广泛应用于边缘推理应用，包括智能物联网设备和智能相机，到智能家电和机器人等应用。

AndesAIRE™ AnDLA™ I350 建立在晶心科技过去18年来CPU 技术中累积的计算加速经验，并提供了一个高效能的AI/ML加速平台。该解决方案支持主流的深度学习框架，例如 TensorFlow Lite、PyTorch 和 ONNX，以及在 int8 数据类型中执行多种神经网络算子，例如convolution, fully-connect, element-wise, activation, pooling, channel padding, upsample, concatenation等。此外，AnDLA™ I350 内部设备直接内存访问（DMA）和本地内存（local memory），以发挥硬件计算引擎的最佳计算能力。而operator fusion技术也是其特色之一，能更有效地执行常见的计算序列。AnDLA™ I350主要可配置参数包括从 32 到 4096 MAC 计算能力， 16KB 到 4MB 的SRAM 大小，为广泛的应用提供64 GOPS 到 8 TOPS（在1 GHz下）灵活计算能力。

AndesAIRE™ NN SDK 是一套全面的软件开发工具包，可用于端到端（end-to-end）的开发与部署。它包括以下部分：

• AndesAIRE™ NNPilot™: 神经网络优化工具套件
• AndesAIRE™ TFLM for AnDLA™：专为 AnDLA™ 优化的TensorFlow Lite for Microcontrollers框架
• AnDLA™ driver and runtime
• NNPilot™ 可自动分析输入的神经网络模型，进行模型剪枝（pruning）和模型量化（quantization），根据硬件配置产生 AnDLA™ 可执行文件，并于 TFLM 框架下进行模型推论。
• NNPilot™ 还会生成样本 C 代码，在主机的裸机环境中调用 AnDLA™ 驱动程序。

为因应不断进展与快速发展的人工智能技术，晶心科技致力于开发可扩展的人工智能子系统，能完美结合AndesAIRE™ AnDLA™、AndesCore™ RISC-V CPU和Andes Custom Extension™ （ACE）。在此子系统中，人工智能工作负载中大部分结构化与计算耗时的部分将有效率地在 AnDLA™ 中计算，而如非线性函数等较不结构化的计算可以通过RISC-V DSP/SIMD或Vector指令扩展的处理器中进行计算。其中ACE 是 CPU 和 AnDLA™ 之间进行高效数据传输的重要关键，能减少海量存储器带宽和功耗，并同时大幅提高硬件利用率。ACE 还可以针对特定领域计算设计客制化指令，例如数据的前与后处理，来进一步提升处理效能。除了硬件IP 的可扩展性外，晶心科技不断投入开发软件 AndesAIRE™ NN SDK 和 AndesAIRE™ NN Library，使得已量产的SoCs可以因应未来人工智能算法的演进。自 2021 年以来，晶心科技每年于其计算函式库中增加了超过一百个函数，并且将持续优化和扩展新功能到 NN SDK 和 NN library 中。

「晶心科技非常高兴推出我们人工智能和机器学习（AI/ML）解决方案的新产品系列，包括AndesAIRE™ AnDLA™ I350和AndesAIRE™ NN SDK。这是一款包含杰出效能的硬件以及专为边缘和端点人工智能推理设计的端到端软件解决方案，」晶心科技总经理暨技术长苏泓萌博士表示。「透过AndesAIRE™，我们赋予开发人员和创新者打造高扩展性和面向未来的AI/ML的芯片和应用。」

「AndesAIRE™ 产品线展现了我们对于AI/ML的市场愿景。」 晶心科技市场处资深技术经理王庭昭表示，「透过融合 RISC-V 处理器、AnDLA™ 和 ACE 的优势而成的一个人工智能子系统，可充分平衡效能、功耗和面积，提供客户极具竞争力的解决方案。不仅如此，RISC-V 处理器和 NN 软件栈确保了弹性，而丰富的扩展性也让客户为其AI/ML特定应用建立出独特的价值。」

AndesAIRE™ AnDLA™ I350和AndesAIRE™ NN SDK现在正开放早鸟授权项目。欲获得更多信息，请访问晶心科技网站：http://www.andestech.com/en/products-solutions/andesaire-ai/。

【关于RISC-V CON】

晶心科技年度RISC-V技术论坛，2023年场次包括于5/16于新竹国宾饭店，5/23于上海博雅酒店，5/25于北京丽亭华苑酒店等地线下举办。本年以“RISC-V重塑世界， 翻转AI、车用电子、ANDROID战略布局”为题。介绍改变新兴运算面貌的RISC-V灵活优势，并分享晶心协助RISC-V生态系实现多元应用的创新技术。本次活动将聚焦三个热门应用领域，包括人工智能、车规电子以及RISC-V新踏入的Android领域，并邀请到众多RISC-V生态伙伴进行专题演讲及现场展示。免费报名及议程请参阅活动官网:
5/16(二)新竹场 https://www.andestech.com/Andes_RISC-V_CON_2023_TW/。
5/23(二)上海场、5/25(四)北京场 https://www.andestech.com/Andes_RISC-V_CON_2023_CN/