中关村在线

热点资讯

火山引擎坚持云上创新,为大模型发展打好“地基”

时下,由于ChatGPT等因素的影响,“大模型”也日益成为人工智能领域最热门的关键词之一。而为大模型提供训练场景的AI装置、智算中心等硬件,也随之热度飙升。

4月18日,火山引擎2023Force原动力大会在上海举办。火山引擎总裁谭待表示,企业上云用云只是过程,致力于更敏捷、更前沿的智能化创新,才能拿到敏捷迭代的“果实”。面向不同场景、不同行业,火山引擎为客户提供全面的工具助力做好云上创新。

近期最重要的云上创新趋势莫过于AICG、大模型推动的智能化浪潮。随着多模态大模型的兴起,ChatGPT 2个月获取过亿用户,国内的NLP大模型以及多模态大模型创新公司也在奋力追赶。

谭待对此表示,大模型还在发展初期,面临数据安全、内容安全、隐私保护、版权保护等许多问题需要努力解决。但可以预见,大模型将带动云上AI算力急剧增长,AI算力的工作负载与通用算力的差距会越来越小,这会为各家云厂商带来新的机会,同时也会对数据中心、软硬件栈、PaaS平台带来新的挑战。

火山引擎全力支持大模型发展,不让任何创新因为算力不足而夭折。目前,火山引擎已经支持MiniMax、智谱、昆仑万维等企业在大模型领域快速发展。

据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎云上,MiniMax大模型业务实现快速突破。

谭待透露,火山引擎的大模型云平台获得智谱AI、昆仑万维等众多企业的良好反馈。国内大模型领域,七成以上已是火山引擎客户。

谭待表示,坚信未来,大模型会在各个行业内不断兴起,行业专属、企业专属的大模型百花齐放,火山引擎也会全力支持好“多云多模型”的未来架构,不让企业因为缺失计算能力而错失创新。

在会上,火山引擎发布两款AI新品,推动不同行业的云上智能创新爆发。

首先是“智能推荐-高速训练引擎”,将模型的训练推理效率进行极致优化,让企业通过云服务享受与字节推荐一样的智能推荐基础设施。据悉,火山引擎智能推荐-高速训练引擎软硬一体优化,超高速训练100GB-10TB+超大模型;同时,采用PS-Worker架构,在服务发现的基础上,支持 PS、Chief、Worker 全方位容错,基于字节内部的实践,综合成本可降低25%~67%

另外,机器学习平台的重点功能也实现了全面升级。在发布实验管理-模型效果对比功能方面,企业仅需极少代码改动,上手简单,并可以深入洞察训练过程,实时跟踪、对比训练效果,观察趋势,加速模型迭代效率。

而在弹性方面,机器学习平台则实现灵活资源调度,随用随取,助力企业敏捷迭代;同时,实现了更低的成本即可获取优质资源,离线推理成本节省达70%。

升级后的机器学习平台全面支持大模型,基于内部自研大模型训练框架为客户提供多模态、大模型、分布式训练、云端大模型瘦身优化方案;超大规模并行,支持万卡级别的训练场景,让大模型训练更稳更快。

目前,国内“大模型狂飙”如火如荼,而火山引擎提供的高速训练引擎和机器学习平台,则无疑为大模型的训练提供了更加优质的技术底座,势必将为国内大模型的加速发展提供更有力的保障。(作者:郭浩)

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多
说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具