扫书网

手机浏览器扫描二维码访问

第737章 吴财的新打算(第1页)

吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”

叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!

就说咱们的GPU制造,和星耀相比,差距还很大。

鹰尾巴的幻光100芯片,拥有800亿晶体管,80GB显存,带宽高达3TBs,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。

反观咱们国产的GPU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910B的带宽只有56GBs。

不仅如此,芯片之间的互联技术上,幻光100支持高效的多GPU协作,能让多个芯片同时工作,效率能提升好几倍,国产GPU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”

吴财若有所思地点点头,又问道:“你说的是AI领域吗?”

叶老肯定地点点头:“没错,就是AI。

虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。

但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。

像训练山鹰目前最强那种超大规模的语言模型,需要大量的GPU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。

咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”

吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GPU堆呢?”

叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。

就说要赶超山鹰目前最强大语言模型CGT吧,咱们先从算力需求来讲。”

“CGT训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代,成本也低不了。

以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”

“假设我们要搭建一个算力集群来追赶CGT的训练水平,保守估计需要500万个GPU。

光GPU采购成本就得500亿刀,这还只是硬件的基础投入。”

“除了硬件,还有运行成本。这些GPU需要24小时不间断运行,电力消耗就是天文数字。

按照一个GPU一天消耗3度电来算,500万个GPU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54。75亿元。

而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”

“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。

这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超CGT的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”

热门小说推荐
少帅你老婆又跑了

少帅你老婆又跑了

少帅说我家夫人是乡下女子,不懂时髦,你们不要欺负她!那些被少帅夫人抢尽了风头的名媛贵妇们欲哭无泪到底谁欺负谁啊?少帅又说我家夫人娴静温柔,什么中医...

我是光明神

我是光明神

穿越成了光明神,从此开启招收信徒,发展神国,称王称霸,为所欲为的羞耻日子...

妖夏

妖夏

盛夏不老不死了上千年,看尽了想到想不到的各种热闹。没想到,她却也成了别人眼里的热闹,在一群不靠谱参谋的参谋下,屡战屡败,屡败屡战本闲初心不改,这本立志要写回言情了!...

好想住你隔壁

好想住你隔壁

婚后情人节,韩经年问今天怎么过?夏晚安搂着被子,昏昏欲睡的答睡觉。圣诞节,韩经年问今天怎么过?夏晚安抱着枕头,漫不经心的答睡觉。结婚纪念日,韩经年端着一杯水问今天怎么过?夏晚安窝在床上,懒洋洋的睁开了眼睛,警惕的盯着韩经年随时会泼到床上的水思考了三秒,回和你一起。...

天神诀

天神诀

火爆玄幻一滴魔血,照破山河万朵。一卷古经,湮灭日月轮回。一部神诀,埋葬诸天至尊。杨青玄得天命传承,修无敌之法,开启了一场碾压当世无数天才,通往万古不朽的强者之路!我一向以德服人,不服的都是死人!...

龙王传说

龙王传说

心潮澎湃,无限幻想,迎风挥击千层浪,少年不败热血!...