扫书网

手机浏览器扫描二维码访问

第737章 吴财的新打算（第1页）

吴财满脸好奇，追问道：“芯片的问题都解决了，难道还有其他难题？”

叶老微微叹了口气，神色中带着几分忧虑：“还不是算力的问题嘛！

就说咱们的GPU制造，和星耀相比，差距还很大。

鹰尾巴的幻光100芯片，拥有800亿晶体管，80GB显存，带宽高达3TBs，专为超大数据、超复杂的计算任务设计，像AI训练、大规模计算、气候模拟这些，它都能轻松应对。

反观咱们国产的GPU，明月的辉光9系列，性能大概只和鹰尾巴幻光1050相当，橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下，可跟幻光100比起来，尤其是在显存和带宽上，差距就太明显了，耀光910B的带宽只有56GBs。

不仅如此，芯片之间的互联技术上，幻光100支持高效的多GPU协作，能让多个芯片同时工作，效率能提升好几倍，国产GPU在这方面技术差得远，带宽低，芯片间协作能力不行，想做高效并行计算，难如登天。”

吴财若有所思地点点头，又问道：“你说的是AI领域吗？”

叶老肯定地点点头：“没错，就是AI。

虽说在工业生产和应用领域，咱们国家的AI技术比山鹰国领先，像国内很多工厂引入AI实现生产流程自动化，提升了生产效率和产品质量，港口利用AI优化货物装卸和运输调度，提高了运营效率。

但在生成式AI方面，因为算力不足，和山鹰国还是有不小的差距。

像训练山鹰目前最强那种超大规模的语言模型，需要大量的GPU算力支持，才能完成海量数据的处理和复杂模型的训练，从而实现自然语言处理、文本生成、对话交互等强大功能。

咱们由于算力受限，在训练同等规模和复杂度的模型时，就会面临效率低、成本高，甚至难以实现的问题，这就导致生成式AI的发展受到制约。”

吴财皱眉问道：“既然我们的算力受限，为什么不多弄点GPU堆呢？”

叶老无奈地摇了摇头，说道：“吴财啊，你这话说起来简单，可实际操作起来，那成本高得超乎想象。

就说要赶超山鹰目前最强大语言模型CGT吧，咱们先从算力需求来讲。”

“CGT训练所使用的算力是极其庞大的。据估算，它训练一次的算力消耗，大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代，成本也低不了。

以鹰尾巴的幻影100为例，一颗市场价格大概在1万刀左右，这还不算配套的服务器、散热设备等周边硬件成本。”

“假设我们要搭建一个算力集群来追赶CGT的训练水平，保守估计需要500万个GPU。

光GPU采购成本就得500亿刀，这还只是硬件的基础投入。”

“除了硬件，还有运行成本。这些GPU需要24小时不间断运行，电力消耗就是天文数字。

按照一个GPU一天消耗3度电来算，500万个GPU一天就需要1500万度电。以工业用电每度1元来计算，一天的电费就是1500万元，一年下来电费就得54。75亿元。

而且，数据中心的维护、管理，专业技术人员的薪酬等，每年又是一笔巨额开支，至少几十亿。”

“另外，训练过程中，为了保证数据的准确性和多样性，还需要购买和处理海量的数据，数据的采集、清洗、标注等环节，又得花费大量资金，至少数十亿甚至上百亿美元。

这样算下来，从硬件采购到运行维护，再到数据处理等一系列环节，想要达到赶超CGT的算力水平，前期投入至少得1000亿刀以上，每年的持续运营成本也得几百亿刀。”