中关村在线

云计算

解锁AI开源下一步 红帽打通AI行业应用落地“最后一公里”

从早期的Unix生态系统再到如今的生成式AI和云计算,开源技术一直在计算机科学技术的发展中扮演着十分重要的角色,多年以来,开源运动一直都在驱动着创新、协作和共享知识的进步,并在计算机技术发展的每个阶段都彰显出了低准入门槛、加速创新、促进社区合作与共享成果的独特优势。

作为一家企业开源解决方案提供商,红帽自成立以来一直以开源为核心,致力于通过促进技术的开放和共享,降低AI的应用门槛,在近日举办的2024红帽论坛期间,红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)就强调,要真正解锁开源AI的无限可能,企业必须首先深入理解技术发展的内在逻辑与未来趋势,同时紧密贴合企业IT的现实需求与长远规划。

他表示,当下诸多企业都希望借助AI提升生产力,拓展新的商业机会,在这样的背景之下,通过开源方法加速企业AI应用成为了大势所趋。而为了进一步满足客户在成本方面的诉求,红帽还提出了分步实施的策略,即“企业AI应用三步曲”。

具体来说,在第一步,客户可以在最小资源配置的前提下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。

如果对客户对测试效果满意,就可以进入第二步,即通过云服务租用算力进行进一步扩展,由于红帽平台几乎可以在任何云上运行,客户可以选择通过企业的数据中心或者公有云资源来进行部署,如果模型确实符合实际需求,就可以实现第三步的大规模部署了。

值得一提的是,在客户进行第三步的大规模部署时,也无需担心跨云的问题,由于红帽架构支持跨云的混合部署,因此客户可以选择在不同的国家通过不同的云服务提供商来部署,从而实现更加灵活的架构和更经济的成本,并最终实现最佳的投资回报率。

为了能够让客户更加顺利地实施三步曲,红帽还和IBM联合发起了开源社区项目InstructLab,与开源的大语言模型Granite相辅相成。红帽大中华区方案架构部总经理王慧慧(Aella Wang)表示,设计InstructLab有两个主要目的,第一是可以让客户基于Granite模型,使用InstructLab和自身数据训练出符合需求的模型。InstructLab的输出分为“知识”和“技能”两部分,均可留在企业内部自用。第二则是通过InstructLab可以把知识和技能反馈到上游的管理机构中,在管理机构收到客户反馈的更新之后,可以将其整合到社区版本的Granite中并发布新版本。换句话说,InstructLab是连接社区和客户的桥梁。

众所周知,场景应用是AI实现赋能的“最后一公里”,在大模型炙手可热的当下,虽然很多企业都在尝试通过大模型提升生产效率,但“理想很丰满,现实很骨感”,多数大模型实际上并不适合实际的生产场景,因为一点小错就可能带来风险。反而是参数数量较少,训练数据相对有限的小模型,虽然在多任务或者泛化能力方面不及大模型,但在特定任务或者领域的表现要比大模型更好。

因此,红帽在几年前就提出了专属模型(faithful purpose)的概念,通过专属模型,可以让企业的数据用来驱动AI模型的生成,在确保模型稳定安全的前提下,符合企业的特定需求,上文提到的InstructLab也正是基于这一理念而诞生的。

此外,红帽还引入了“社区版”小模型,通过合成数据大幅减少对真实数据的需求,可以降数据量降到原来的千分之一。这种方式不仅降低了算力需求,节约了成本,造成的能耗也大幅减少,对环境更加友好。

同时,通过构建“开放实验室”的概念,红帽可以与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,一起找出最具效能的应用场景。从一个小应用成功起步,再逐步扩展到更大的场景。

“场景应用是ISV(独立软件开发商)和应用供应商最擅长的领域,由于许多企业和行业都有各自的特点,因此红帽也在加速和本土ISV和方案开发商的合作,此外我们也特别关注共创模式(co-creation),通过与ISV共创,结合各行业的独特场景和联合解决方案,可以帮助企业更快地实现AI应用落地。”红帽大中华区资深市场总监赵文斌(Max Zhao)补充道。

最后在中国本土推动开源AI方面,红帽也有相应的计划,具体来说,第一步是通过各种市场渠道推广AI的独特功能和优势;第二步是通过合作伙伴生态,赋能合作伙伴的技术和顾问团队,使他们更深入地了解红帽的AI技术,从而更好地支持客户;第三步则是通过开放实验室,与客户共同探讨如何将AI技术应用到企业的实际场景中。

据悉,国内的某家保险公司已经在使用红帽的AI技术来加速代码审查和代码合并请求的处理了,此前这家公司在使用旧工具时,会经常面临准确率低的问题,有些时候准确率甚至不及95%,这在实际的生产环境中显然会造成不小的问题,在引入红帽的AI工具后,代码合并和审查的准确率大大提升,达到了这家客户的高标准。

在2024红帽论坛期间,红帽也宣布了2024红帽亚太创新奖中国区获奖名单,安利和西门子工业自动化产品(成都)有限公司获得该奖项。其中,西门子工业自动化产品(成都)有限公司(SEWC)作为西门子德国安贝格(Amberg)的姐妹工厂,享有全球最先进工厂之一的声誉。为跟上现代数字化生产应用的步伐,SEWC面临着生产连续性受到挑战的困境,包括系统灵活性和可扩展性不足、开发效率低下,以及操作不便等问题。该工厂通过部署红帽OpenShift,打造了MEMO(制造运营模块化生态系统)生产支持系统,该系统显著提升了生产线工人的用户体验和工作效率,将前沿理念付诸实践,为工业自动化制造执行系统的软件应用树立了新的标杆。

西门子工业自动化(成都)有限公司信息技术部经理杨健在接受采访时也分享了和红帽合作的感受,他表示,与其他的供应商相比,红帽在响应速度和责任感方面的表现十分突出,在AI技术环境快速变化的当下,企业在部署AI时也要不断进行调优和改进,而红帽则在这个过程中保持了谦虚友好的态度,这种共创模式的合作环境非常宝贵,也是西门子选择红帽平台的重要原因。

同时他也表示,在采用红帽的解决方案以后,工厂实现了从单体架构向微服务分布式架构的转型。这样带来了两个优势,第一是可以在不停机的情况下进行维护、升级和变更;第二是每次变更可以针对更小的范围,便于精准控制和资源调度,这种转型也会成为制造业未来发展的一大趋势。

面向未来,除了继续在微服务平台上探索以外,西门子也计划在虚拟化领域与红帽展开更多合作,从而实现对部分现有方案的替代,未来西门子也会进一步研究如何将AI平台更好地整合到自身的资源体系中,以进一步优化制造流程。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具