【产通社，1月14日讯】如果任何桌面PC只需一次升级就可以AI推理，奇迹会出现？台湾初创公司Neuchips在CES 2024推出了一个PCIe附加卡，可以升级典型台式计算机的AI能力，同时只增加55瓦的PC功率预算。

这不仅仅是一个概念。该卡被插入展厅的台式计算机，并提供与聊天机器人的实时离线对话，聊天机器人由Meta的流行的Llama 2 7B大型语言模型驱动(Neuchips表示，该卡也将运行Llama 2 13B)。

Neuchips的卡Evo PCIe加速器是围绕该公司的Raptor Gen AI加速器芯片构建的。根据Meta的DLRM基准测试，Raptor芯片每秒可进行高达200万亿次运算，该公司表示，它针对基于变压器的模型进行了优化。

Neuchips展示的卡有Raptor芯片，但单个芯片不是卡的最终形式。Neuchips的首席执行官Ken Lau是一位在英特尔工作了26年的老兵，他说Raptor可以用来设计带有不同数量芯片的卡。

Neuchips也希望给用户提供有效使用信用卡所需的工具。Neuchips公司有编译软件，并将提供驱动程序。最终的卡应该在2024年下半年发货，大约是CES上显示的卡的一半大小。

虽然Neuchips的加速器可能是CES 2024上最受瞩目的AI加速器卡，但它远不是展会上唯一的一个。一些初创公司推出了自己的AI加速器，包装了独特的功能。Panmnesia因其AI加速器获得了CES创新奖，该加速器包括一个用于访问巨大内存池的Compute eXpress Link接口。其他拥有AI加速器的公司包括DeepX和MemryX。英特尔和AMD也参与其中；每个都在其最新的CPU架构中提供了一个AI加速器。

新的AI加速器，如Neuchips的Raptor和Evo PCIe卡已经准备好为那些不关心图形或在运行AI推理时需要提高能效的开发人员提供新的选择。（镨元素）    （完）