特斯拉启动AI超级电脑 采用1万颗H100 GPU

特斯拉启动AI超级电脑 采用1万颗H100 GPU

据报道,特斯拉(Tesla)28 日启动众所瞩目的超级电脑,准备用于各式人工智能(AI)应用,其运算能力特别强大、甚至可用来执行高效能运算(HPC)任务。据悉,这款基于英伟达(Nvidia Corp.)H100晶片的超级电脑,将成为全球最强大的电脑之一。

特斯拉投资人的Sawyer Merritt通过社交平台 X(原Twitter)指出,特斯拉将在28日启动的10,000颗H100 GPU丛集,会协助训练全自动辅助驾驶(FSD)系统。H100 GPU的运算效能是前一代A100的五倍快,可加快特斯拉训练FSD的速度、训练成果也会比过去更优秀。不过,H100 GPU非常昂贵,单颗要价近40,000美元。

特斯拉启动AI超级电脑 采用1万颗H100 GPU

Merritt指出,由于英伟达无法追上市场对GPU的需求,特斯拉只能斥资十多亿美元打造自家超级电脑「Dojo」。Dojo使用公司高度最佳化的客制芯片,2024年有望成为全球最强大的超级电脑之一。这款超级电脑也会训练特斯拉的车队并处理这些车队传回的资料。特斯拉CEO马斯克(Elon Musk)7月曾表示,“老实说,若英伟达交出足够GPU,我们也许不需要Dojo。”

Merritt表示,特斯拉的英伟达H100 GPU丛集与Dojo将同时启动,这能大幅拉升特斯拉的运算能力,目前没有任何一家汽车业者能够与之匹敌。Merritt并附上一张图,显示特斯拉内部预测,Dojo运算能力有机会在2024年10月达到100 Exa-Flops。

Merritt并指出,特斯拉的FSD V12版终端对终端训练已触及运算瓶颈,但该公司会积极确保未来不会如此。根据马斯克说法,特斯拉光2023年就会耗资超过20亿美元训练运算力,2024年也会采取同样行动。

特斯拉启动AI超级电脑 采用1万颗H100 GPU

Tom’s Hardware报导,特斯拉AI推论兼AI平台工程经理Tim Zaman 27日则解释,在真实世界影片的训练下,特斯拉拥有的也许是世界最大训练资料库,快取热层的容量超过200PB ,数量级(orders of magnitudes)比大型语言模型(LLMs)还高。

根据报导,10,000颗H100 GPU丛集对技术性运算的效能峰值可达340 FP64 PFLOPS,对于AI应用的效能峰值则可达39.58 INT8 ExaFLOPS。相较之下,Leonardo旗下的全球第四优秀超级电脑效能仅304 FP64 PFLOPS。

原创文章,作者:小科同学,如若转载,请注明出处:https://www.kejixun.com/article/578283.html

(1)
小科同学的头像小科同学

相关推荐

发表回复

登录后才能评论