中关村在线

热点资讯

英特尔携手第四范式 以AI持续赋能开发者

在10月底举行的英特尔On技术创新峰会上,英特尔基于一系列创新发布向大众描绘了一张“AI Everywhere”的愿景图,并通过在开发者生态系统、工具、技术和开放平台方面的深度投入,为人工智能的普及扫清障碍。为持续深度赋能开发者,近日英特尔亦携手第四范式举办“AI应用与异构内存编程挑战赛”,旨在基于第四范式开放的人工智能操作平台、英特尔领先的存储技术和人工智能在诸多领域的应用,为多层次编程水平的企业开发人员、高校学生及相关领域爱好者提供沉浸式比赛环境,感受人工智能与异构内存相结合的技术魅力。

为进一步深入解析英特尔存储技术、其在人工智能领域的应用,以及让参与者初步体验编程魅力,比赛前夕还设置前沿技术介绍和实践讲座系列,邀请英特尔和第四范式的资深技术人员,从技术、实际应用和操作等多维度进行分享。

英特尔技术专家指出,面对不断呈指数级增长的计算需求,内存一直以来仅以线性速率增长。而传统的囊括DRAM、SSD和HDD在内的存储架构,看似紧密,实则中间仍有鸿沟亟待填补。一方面,在DRAM与SSD间,越来越多的应用想常驻内存,实现数据的迅速调取,但受限于内存容量,不可能所有应用均常驻内存,而SSD的时延又较高;另一方面,在SSD和HDD上,HDD的性能和故障率一直令用户堪忧,而全闪的成本和密度又使得SSD全面替换HDD并不现实。这便是早期“存储金字塔”中的DRAM、NAND、HDD存储介质由于容量、时延和带宽三个层面的问题,如今已经无法满足新应用及海量数据存储需求。

基于此,英特尔创新性地打造了基于3D Xpoint存储介质的革命性的傲腾™️技术,该技术利用内存和存储架构中的新层实现了现有数据中心架构的现代化,一举改变了传统的内存和存储层级结构,从而填补了高性能易失性内存和性能较低但价格合理的NAND存储之间的缺口。得益于缩小差距、减少瓶颈和解决数据延迟,使内存更靠近计算,该技术能够为数据中心提供更高的灵活性和更多的价值。

英特尔®️傲腾™️持久内存的操作模式提供不同功能,可灵活配置,两种模式分别为内存模式(MemoryMode)和App Direct模式。利用App Direct模式,经过专门调试的应用程序可从产品固有的持久性中充分获取价值并获得更大的容量。而在内存模式下,在受支持的操作系统或虚拟环境中运行的应用程序可将该产品用作易失性存储,从而在无需重写软件的情况下有效利用最高达512GB的内存模块所带来的附加系统容量。

期间,英特尔技术专家还分享了第四范式如何应用英特尔傲腾持久内存加速AI应用。为构建高质量在线推理服务,第四范式基于自有的SageOneAI算力平台,引入英特尔®️傲腾™️持久内存,为企业用户打造了新一代HyperCycle Machine Learning全流程AI系统。一方面,得益于傲腾持久内存提供接近纯DRAM内存配置的性能,能够实现每秒亿级KV的查询能力;同时,傲腾持久内存具备数据持久性优势,能够使数据恢复时常缩短至分钟级,以更好地保障线上服务的连续性;此外,其更高的存储密度,能够大大降低内存资源的单位价格,帮助企业用户有效降低系统采购、部署、运维和管理等费用,大幅降低TCO。

此外,由于现有的商用内存数据库并不能满足在线实时决策系统等应用高时效的要求,第四范式自研了针对人工智能在线实时决策系统的开源机器学习数据库OpenMLDB中,并在此基础上引入英特尔傲腾持久内存以重新设计OpenMLDB的存储引擎,以解决在线预估系统内存消耗大、离线后恢复慢、长尾延迟的问题。傲腾持久内存除了带来更低TCO和更持久化特性,得益于其软件架构的优化,亦实现了长尾延迟接近20%的改善。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多
说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具