近日，前Twitter員工、現Google DeepMind開發者蒂姆·扎曼（Tim Zaman）在一次訪談中揭露了一個令人震驚的發現：在Twitter被埃隆·馬斯克（Elon Musk）收購的交易完成后不久，公司內部竟存在一個由700個閑置的NVIDIA V100高性能GPU加速器組成的龐大集群。這一發現不僅揭示了Twitter在AI資源利用上的巨大浪費，也引發了業界對于AI基礎設施管理和優化問題的深入討論。
據扎曼透露，這些V100加速器自2017年發布以來便一直處于開啟但未被充分利用的狀態，直至2022年才被意外發現。當時，Twitter正計劃關閉部分數據中心以節省成本，而這一發現無疑為這一決策增添了更多復雜性和遺憾。值得注意的是，這些V100加速器采用的是PCIe接口而非專為AI任務優化的NVLink SXM2版本，進一步凸顯了資源配置上的不合理。
Zaman的爆料迅速在科技界引起軒然大波，尤其是與近期關于構建包含10萬個NVIDIA H100加速器的xAI AI超級計算機的消息相呼應，更加凸顯了Twitter在AI資源管理和戰略規劃上的缺失。許多業內人士表示，這種級別的資源浪費不僅是對企業資產的巨大消耗，也是對全球AI發展潛力的一種辜負。
在談及“AI Gigafactory”的概念時，Zaman表達了他的擔憂與見解。他認為，在如此龐大的系統中部署和管理數十萬個加速器將是一項前所未有的挑戰，故障管理和系統穩定性將成為首要問題。他建議將系統劃分為多個獨立域，以大型集群的形式進行設計和維護，以更好地應對潛在的風險和不確定性。
此外，Zaman還提出了一個值得深思的問題：在構建越來越大的人工智能培訓系統時，單個集群內加速器的最大數量將受到哪些因素的限制？他認為，這既包括技術層面的可預測限制，如數據傳輸瓶頸、能源供應等，也包括不可預見的意外因素，如硬件故障、軟件兼容性問題等。因此，如何在保證系統效率的同時，確保系統的穩定性和可擴展性，將是未來AI基礎設施建設中的一大挑戰。
此次事件不僅為Twitter敲響了警鐘，也為整個科技行業提供了一個寶貴的教訓：在追求技術創新和規模擴張的同時，必須高度重視資源的合理配置和有效利用，避免類似的資源浪費現象再次發生。
原創文章，作者：小丸子，如若轉載，請注明出處：http://www.bdzhitong.com/article/671504.html
