中关村在线

热点资讯

ChatGPT 成显卡熔炉,将吞 3 万颗高端 GPU,英伟达笑到最后

据 Trendforce 报道,ChatGPT 对 GPU 的需求不断增长,新模型预计需要超过 30000 个英伟达 GPU,未来会需要更多。

ChatGPT 算力需求惊人,以 GPT 为例,该模型开发中使用的训练参数数量从 2018 年的约 1.2 亿个增加到 2020 年的近 1800 亿个。

根据 TrendForce 的估计,2020 年,GPT 模型处理训练数据所需的 GPU 数量达到了 20000 左右。展望未来,GPT 模型(或 ChatGPT)商业化所需的 GPU 数量预计将达到 30000 个以上。

这些估计均使用英伟达的 A100 GPU 作为计算基础。A100 GPU 是目前最快的 AI 芯片之一,具有高达 5 Petaflops 的 AI 性能。

同时,英伟达 DGX A100 架构已经是 AI 相关工作负载的通用系统,几乎成为大数据分析和 AI 加速的首选。

ChatGPT 的激增对于英伟达来说无疑是天降福利,全球通货膨胀率上升导致 PC 硬件需求下滑,AI 的需求可以抵消英伟达的收入损失。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具