集邦咨询:ChatGPT运行需要3万块A100显卡,英伟达可从OpenA
时间:2023-03-08 13:39 | 责任编辑:竹隐 | 来源: IT之家 | 关键词: | 阅读量:6134 |
,市场调查机构 TrendForce 集邦咨询公布的最新报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。
调查机构 TrendForce 在报告中指出,预估 ChatGPT 需要 20000 块显卡来处理训练数据。随着 OpenAI 继续在商业上部署 ChatGPT 和该公司的生成式 GPT 模型,可能需要超过 30000 块显卡。
目前英伟达 A100 显卡的售价在 10000-15000 美元之间,该售价取决于 OpenAI 需要多少显卡,以及英伟达是否会为 AI 公司提供订单折扣。TrendForce 预估英伟达可以赚取超过 3 亿美元收入。
英伟达还将 A100 作为 DGX A100 系统的一部分进行销售,该系统具有八个加速器,售价高达 199,000 美元。鉴于 OpenAI 的运营规模,该公司可能会单独购买 A100 并将它们堆叠成集群。