【产通社,5月28日讯】晶心科技(Andes;TWSE股票代码:6533)官网消息,其全新产品线全新产品线AndesAIRE(或Andes AI Runs Everywhere)正式上市,该解决方案为边缘及终端装置AI推论提供极高的计算效率。AndesAIRE包含首代AI和机器学习(AI/ML)硬件加速器智慧财产(IP)AndesAIRE AnDLA I350,以及神经网络软件开发套件AndesAIRE NN SDK。 产品特点 随着AI/ML应用的爆炸性成长,高效能与高效率深度学习解决方案的需求不断增加。在此需求下,边缘和终端运作环境严格的功耗限制,使得仅仅依赖CPU架构变得困难。针对这样特别的挑战,晶心科技推出AndesAIRE AnDLA I350,提供行业领先的高效率、低功耗和小面积,非常适合广泛应用于边缘推论应用,包括智能物联网装置和智能相机,到智慧家电和机器人等应用。 AndesAIRE AnDLA I350建立在晶心科技过去18年来CPU技术中累积的计算加速经验,提供了一个高效能的AI/ML加速平台。该解决方案支持主流的深度学习框架,例如TensorFlow Lite、PyTorch和ONNX,以及在int8资料类型中执行多种神经网络算子,例如convolution, fully-connect, element-wise, activation, pooling, channel padding, upsample, concatenation等。 此外,AnDLA I350内部配置直接存储器单元(DMA)和本地存储器(local memory),以发挥硬件计算引擎的最佳计算能力。而operator fusion技术也是其特色之一,能更有效地执行常见的计算序列。AnDLA I350主要可配置参数包括从32-4096 MAC计算能力,16KB到4MB的SRAM大小,为广泛的应用提供64 GOPS到8 TOPS(在1GHz下)灵活计算能力。 AndesAIRE NN SDK是一套全面的软件开发套件,可用于端到端(end-to-end)的开发与部署。它包括以下部分:   AndesAIRE NNPilot: 神经网络优化工具套件   AndesAIRE TFLM for AnDLA:专为AnDLA优化的TensorFlow Lite for Microcontrollers框架   AnDLA driver and runtime   NNPilot可自动分析输入的神经网络模型,进行模型剪枝(pruning)和模型量化(quantization),根据硬件配置产生AnDLA可执行文件,并于TFLM框架下进行模型推论。   NNPilot还会生成样本 C 代码,在主机的裸机环境中调用AnDLA驱动程序。 为因应不断进展与快速发展的AI技术,晶心科技致力于开发可扩充的AI子系统,能完美结合AndesAIRE AnDLA、AndesCore RISC-V CPU和Andes Custom Extension(ACE)。在此子系统中,AI工作负载中大部分结构化与计算耗时的部分将有效率的在AnDLA中计算,而如非线性函数等较不结构化的计算可以通过RISC-V DSP/SIMD或Vector指令扩展的处理器中进行计算。其中ACE是 CPU和AnDLA之间进行高效数据传输的重要关键,能减少了大量存储器频宽和功耗,并同时大幅提高了硬件利用率。ACE还可以针对特定领域计算设计客制化指令,例如数据的前与后处理,来进一步提升处理效能。 除了硬件IP的可扩充性外,晶心科技不断投入开发软件AndesAIRE NN SDK和AndesAIRE NN Library,使得已量产的SoCs可以因应未来AI算法的演进。 供货与报价 AndesAIRE AnDLA I350和AndesAIRE NN SDK现在正开放早鸟授权项目。查询进一步信息,请访问官方网站http://www.andestech.com/en/products-solutions/andesaire-ai/。(张怡,产通发布) (完)
|