安卓游戏

安卓软件

安卓资讯

合集大全

专题栏目

首页>安卓资讯>软件资讯>ChatGPT 对 GPU 的需求量增长

ChatGPT 对 GPU 的需求量增长

2024-04-15 20:50:02小编:zx

根据 Trendforce 报道,ChatGPT 对 GPU 的需求不断增长,新模型预计需要超过 30000 个英伟达 GPU,未来会需要更多。接下来小编带来的相关的介绍,一起来看看吧!

image.png

ChatGPT 对 GPU 的需求量增长

ChatGPT 有着十分惊人算力,以 GPT 为例,该模型开发中使用的训练参数数量从 2018 年的约 1.2 亿个增加到 2020 年的近 1800 亿个。

根据 TrendForce 的估计,2020 年,GPT 模型处理训练数据所需的 GPU 数量达到了 20000 左右。展望未来,GPT 模型(或 ChatGPT)商业化所需的 GPU 数量预计将达到 30000 个以上。

ChatGPT 成显卡熔炉,将吞 3 万颗高端 GPU,英伟达笑到最后

这些都是使用英伟达的 A100 GPU 作为计算基础,A100 GPU 是现在最快的 AI 芯片之一,有着很高的到 5 Petaflops 的 AI 性能。

英伟达 DGX A100 架构已经是AI 相关工作负载的通用系统,基本上成为了大数据分析和 AI 加速的首选。

ChatGPT 的激增对于英伟达来说简直就是天降惊喜,全球通货膨胀率上升导致 PC 硬件需求下滑,有了AI 的需求可以抵消英伟达的收入损失。

以上这篇文章就ChatGPT 对 GPU 的需求量增长的全部内容了,更多内容敬请关注zi7下载网。


相关下载

相关文章