
據報道,特斯拉(Tesla)28 日啟動眾所矚目的超級電腦,準備用于各式人工智能(AI)應用,其運算能力特別強大、甚至可用來執行高效能運算(HPC)任務。據悉,這款基于英偉達(Nvidia Corp.)H100晶片的超級電腦,將成為全球最強大的電腦之一。
特斯拉投資人的Sawyer Merritt通過社交平臺 X(原Twitter)指出,特斯拉將在28日啟動的10,000顆H100 GPU叢集,會協助訓練全自動輔助駕駛(FSD)系統。H100 GPU的運算效能是前一代A100的五倍快,可加快特斯拉訓練FSD的速度、訓練成果也會比過去更優秀。不過,H100 GPU非常昂貴,單顆要價近40,000美元。

Merritt指出,由于英偉達無法追上市場對GPU的需求,特斯拉只能斥資十多億美元打造自家超級電腦「Dojo」。Dojo使用公司高度最佳化的客制芯片,2024年有望成為全球最強大的超級電腦之一。這款超級電腦也會訓練特斯拉的車隊并處理這些車隊傳回的資料。特斯拉CEO馬斯克(Elon Musk)7月曾表示,“老實說,若英偉達交出足夠GPU,我們也許不需要Dojo。”
Merritt表示,特斯拉的英偉達H100 GPU叢集與Dojo將同時啟動,這能大幅拉升特斯拉的運算能力,目前沒有任何一家汽車業者能夠與之匹敵。Merritt并附上一張圖,顯示特斯拉內部預測,Dojo運算能力有機會在2024年10月達到100 Exa-Flops。
Merritt并指出,特斯拉的FSD V12版終端對終端訓練已觸及運算瓶頸,但該公司會積極確保未來不會如此。根據馬斯克說法,特斯拉光2023年就會耗資超過20億美元訓練運算力,2024年也會采取同樣行動。

Tom’s Hardware報導,特斯拉AI推論兼AI平臺工程經理Tim Zaman 27日則解釋,在真實世界影片的訓練下,特斯拉擁有的也許是世界最大訓練資料庫,快取熱層的容量超過200PB ,數量級(orders of magnitudes)比大型語言模型(LLMs)還高。
根據報導,10,000顆H100 GPU叢集對技術性運算的效能峰值可達340 FP64 PFLOPS,對于AI應用的效能峰值則可達39.58 INT8 ExaFLOPS。相較之下,Leonardo旗下的全球第四優秀超級電腦效能僅304 FP64 PFLOPS。
原創文章,作者:小科同學,如若轉載,請注明出處:http://www.bdzhitong.com/article/578283.html