中关村在线

热点资讯

腾讯混元发布Hy4 Flash大模型:2240亿参数、低成本高效率多模态AI

腾讯混元于今日正式推出全新语言模型Hy4 Flash。该模型总参数量为2240亿,实际激活参数仅为120亿,具备多模态理解与生成能力,并支持最高达100万字符的上下文窗口。

在计费方面,Hy4 Flash按实际使用量计价:每百万Token输入费用为0.5元,输出费用为2元;若请求命中缓存,则单次调用仅需0.02元,整体成本较前代Hy4显著下降。

模型架构层面,预训练阶段融合了混合注意力机制、LatentMoE稀疏专家结构及Engram特征建模等创新设计,使KV缓存占用量降至Hy3的约1/24、Hy4的约1/6。后训练阶段结合自蒸馏与强化学习优化策略,将端到端任务的平均输出长度压缩了50%。推理环节则集成megakernel调度、4比特量化及dflash高效内存访问技术,实测解码速度突破每秒150个Token。

综合性能评估显示,Hy4 Flash在多项任务上的表现略优于参数规模更大的Hy4 Preview,同时单位任务成本大幅降低。根据内部统一评测集测算,其单任务平均成本仅为Hy4 Preview的1/13、Hy4的1/20。

目前,该模型已全面接入腾讯云TokenHub、WorkBuddy及元宝等核心产品线,并将于2026年11月30日前开放限时免费体验。

展开全文
人赞过该文 赞
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具