中关村在线

热点资讯

Meta AAI Labs研发Switchboard模型调度系统,智能匹配LLM降本增效

Meta旗下的内部创新实验室AAI Labs正推进一项名为“Switchboard”的模型调度系统研发工作。该系统可根据任务复杂程度,智能匹配不同性能与成本层级的大语言模型进行响应,从而优化算力资源使用,显著降低整体计算支出。目前项目尚处于初期开发阶段,后续将优先在Meta内部落地应用,待技术验证充分、稳定性达标后,有望面向企业客户开放服务。

AAI Labs目前已启动约两百个创新项目,涵盖面向终端用户的消费级产品、面向开发者的工具平台以及底层算力基础设施建设等多个方向。其核心发展路径是在持续加大人工智能领域投入的基础上,突破传统广告业务边界,探索多元化的技术产品形态与可持续的新增长点。

为应对AI工具在组织内部快速普及所引发的资源消耗压力,Meta已采取包括调用频次限制、预算额度管控在内的多项精细化运营措施,以平衡创新效率与成本控制。业内普遍认为,模型路由作为一项关键能力,正在成为提升AI系统经济性与可扩展性的核心支撑技术。内部评估指出,当前统一采用高规格模型处理全部请求的模式存在明显冗余,而高昂的算力成本已成为制约AI智能体规模化落地的关键瓶颈。与此同时,AAI Labs还在同步推进一款专为车载环境设计的AI交互助手应用的研发工作。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具