燧原科技与上海人工智能实验室合作,基于人工智能开放计算体系-DeepLink共建AI软硬件生态,当前双方的合作主要基于燧原科技已量产的第二代训练产品云燧T20和第二代推理产品云燧i20。
2022年11月,燧原科技与上海人工智能实验室就云燧T20、云燧i20和深度学习框架的适配开始进行深入合作,逐步在人工智能开放计算体系(DeepLink)上实现接入T20和i20,共同打造人工智能软硬件生态。
目前,T20和i20已基于DeepLink实现多个模型的训练和推理的适配,支持CV、NLP等核心领域以及开源LLaMA大模型。双方的合作降低了硬件接入AI模型训练和推理的门槛,为大模型的发展提供强劲算力保证。
燧原科技同时参与了DeepLink芯片评测工作,DeepLink评测体系针对送测芯片进行多维度测试并提供季度评测报告,其评测结论为各类加速卡提供优化参考,推动AI芯片技术规范的标准建设。
DeepLink作为连接硬件芯片与深度学习软件框架间适配的"桥梁",厂商可基于DeepLink一次适配即接入广泛的算法生态,根本性实现软硬件解耦。目前DeepLink已提供200余个标准算子接口,支持超过5000个算子测例,同时支持大语言模型和视觉模型。遵循DeepLink标准可以实现主流框架与AI芯片高效适配,极大降低算力使用门槛,节省适配时间,更容易实现算力对模型的使能。同时通过编译的优化,系统性提升整体训练效率。
人工智能开放计算体系(DeepLink)
云燧T20是面向数据中心的第二代人工智能训练加速卡,具有模型覆盖面广、性能强、软件生态开放等特点,可支持多种人工智能训练场景。同时具备灵活的可扩展性,提供业界领先的人工智能算力集群方案。
云燧T20
云燧i20是面向数据中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆盖面广、易部署易运维等特点,已广泛应用于计算机视觉、语音识别与合成、自然语言处理、搜索与推荐等推理场景。
云燧i20
燧原科技相关负责人表示:"DeepLink可以让上游芯片和下游框架两层在适配工程实施时能有效地解耦,并复用到不同的训练框架适配中去,从而降低芯片和框架的适配成本,同时保障算子实现正确性。燧原科技将与上海人工智能实验室合作,在算力和算法上进行深度融合,为业界构建软硬一体、更加优化的计算解决方案,为产业赋能,共建软硬协同生态,推动中国数字化产业转型和升级。
评论