ChatGPT 对 GPU 的需求量增长

根据 Trendforce 报道,ChatGPT 对 GPU 的需求不断增长,新模型预计需要超过 30000 个英伟达 GPU,未来会需要更多。接下来小编带来的相关的介绍,一起来看看吧!

ChatGPT 对 GPU 的需求量增长

ChatGPT 有着十分惊人算力,以 GPT 为例,该模型开发中使用的训练参数数量从 2018 年的约 1.2 亿个增加到 2020 年的近 1800 亿个。

根据 TrendForce 的估计,2020 年,GPT 模型处理训练数据所需的 GPU 数量达到了 20000 左右。展望未来,GPT 模型(或 ChatGPT)商业化所需的 GPU 数量预计将达到 30000 个以上。

这些都是使用英伟达的 A100 GPU 作为计算基础,A100 GPU 是现在最快的 AI 芯片之一,有着很高的到 5 Petaflops 的 AI 性能。

英伟达 DGX A100 架构已经是AI 相关工作负载的通用系统,基本上成为了大数据分析和 AI 加速的首选。

ChatGPT 的激增对于英伟达来说简直就是天降惊喜,全球通货膨胀率上升导致 PC 硬件需求下滑,有了AI 的需求可以抵消英伟达的收入损失。

以上这篇文章就ChatGPT 对 GPU 的需求量增长的全部内容了,更多内容敬请关注编程之家。

相关文章

我们在使用网页进行一些文件的查找的时候都会遇到需要翻译的...
imageusb是一款十分好用的u盘读取软件,我们可以在软件中进行...
这款插件就可以很好地帮助用户查看Axure R原型hTML的Chr ome...
想必很多的用户都在使用Editplus这个软件吧,有部分的用户在...
很多的用户应该都知道editplus和notepad这两个软件吧,这两个...
5G通信技术大幅度提升网络的速度,在不同环境下都拥有极好的...