6月6日,人工智能芯片初创公司耐能(Kneron)在2024年台北国际电脑展上推出了其新一代AI产品——KNEO 330服务器和搭载第三代NPU芯片KL830的PC设备。
耐能是由CEO刘峻诚和张懋中于2015年创立的一家提供边缘运算人工智能技术的公司。该公司主要投资者包括李嘉诚旗下的维港投资、高通、鸿海集团、阿里巴巴创业者基金以及中华开发资本等知名机构。
刘峻诚在发布会上表示,目前使用生成式AI功能和应用的公司依赖于微软和亚马逊等巨头,并从英伟达或AMD等公司购买大量芯片。然而,企业出于数据隐私和安全考虑,可能不愿意将自身数据交给外部公司,并通过其AI工具进行模型训练。因此,借助耐能的技术来建设企业内部的服务器以构建企业专属的AI应用程序是一个很好的选择。
耐能的两款新产品分别为KNEO 330服务器和搭载第三代NPU芯片KL830的PC设备。官方还计划在2025年推出自研第四代NPU芯片KL1140。
KNEO 330服务器具有48TOPS的AI计算能力,最多可支持8个并发连接,并支持LLM和Stable Diffusion。在较低的硬件条件下,其RAG精度与云端解决方案相当,降低了小型企业整体AI成本的30%~40%。
搭载第三代NPU芯片KL830的PC设备未透露具体细节。发布会现场展示了一台搭载第三代NPU芯片KL830的惠普设备。耐能表示,目前正在与几家最大的PC OEM厂商密切合作,这些厂商将成为其最新芯片的首批客户。
KL830芯片是一种神经处理单元(NPU),与中央处理器(CPU)和图形处理器(GPU)协同工作,实现运行人工智能任务的功能。最高可提供10eTOPS@8bit的综合计算能力,峰值功耗仅为2W,并且支持许多相对低参数的大型语言模型。
耐能还表示,KL830芯片也可以通过USB AI加速棒使用,使得任何设备都可以成为边缘AI设备。
此次发布的KNEO 330服务器和搭载第三代NPU芯片KL830的PC设备标志着耐能迈入了新的发展阶段,并为行业带来了更加高效、安全的人工智能解决方案。

评论
更多评论