亞馬遜云計算業務AWS在本周二的年度大會re:Invent上發布了一系列新產品和服務,展示了其在云計算和人工智能領域的創新能力和領先地位。AWS推出了新一代的通用芯片Graviton4和AI芯片Trainium2,以及基于生成式AI技術的聊天機器人Q。同時,AWS還宣布了與英偉達的深入合作,將在云上部署英偉達的最新超級芯片Grace Hopper,提供更強大的AI計算能力和服務。

Graviton4是AWS自研的第四代通用芯片,其計算性能較前代提高多達30%,內核增加50%,內存帶寬提升75%。Graviton4還通過對所有高速物理硬件接口進行完全加密提高安全性。Graviton4將應用于內存優化的Amazon EC2 R8g 實例,讓客戶能改進高性能數據庫、內存緩存和大數據分析工作負載的執行。Graviton4的電腦將在未來數月內上市。
Trainium2是AWS自研的第二代AI芯片,其速度比前代快四倍,將能在EC2 UltraCluster中部署多達10萬個芯片,讓用戶能在很短的時間內訓練數以萬億參數的基礎模型(PM)和大語言模型 (LLM),同時能源利用率較前代提高多達兩倍。Trainium2 將用于Amazon EC2 Trn2 實例,單個實例中包含16 個Trainium 芯片。Trn2 實例旨在幫助客戶在下一代 EC2 UltraCluster中擴展芯片應用數量至多達10萬個Trainium2 芯片,聯通AWS Elastic Fabric Adapter (EFA) petabit級網絡,提供高達 65 exaflops 的算力。Trainium2將從明年開始用于支持新的服務。
Q是AWS推出的基于生成式AI技術的聊天機器人,可根據企業客戶的業務進行工作,幫助企業客戶搜索信息、編寫代碼和審查業務指標。Q接受了AWS內部有關代碼和文檔的部分培訓,可供AWS云的開發者使用。開發者可以用Q在AWS上創建App、研究最佳實踐、改正錯誤、獲得為App編寫新功能的幫助。用戶可以通過對話式的問答功能與Q進行交互,學習新知識、研究最佳實踐以及了解如何在AWS上構建App,無需將注意力從 AWS 控制臺上移開。Q還將被添加到亞馬遜的企業智能軟件、呼叫中心工作人員和物流管理的程序。Q 對話式問答功能目前在所有提供企業AWS的地區提供預覽版。
除了自研芯片和AI聊天機器人,AWS還與英偉達加強了戰略合作,將在云上部署英偉達的最新超級芯片Grace Hopper,提供更強大的AI計算能力和服務。Grace Hopper是英偉達的第三代數據中心GPU,其性能較前代提高了10倍,可支持萬億參數級的AI模型。AWS將成為第一家在云上采用全新多節點NVLink技術英偉達H200 Grace Hopper超級芯片的云服務商。英偉達的H200 NVL32 多節點平臺將 32 個 Grace Hopper芯片與 NVLink 和 NVSwitch 技術共同用于一個實例。該平臺將用于與亞馬遜網絡EFA連接的Amazon EC2實例,并由高級虛擬化 (AWS Nitro System) 和超大規模集群 (Amazon EC2 UltraClusters) 提供支持,使亞馬遜和英偉達共同的客戶能夠擴展部署數以千計的H200芯片。
英偉達和AWS還將共同在AWS上托管英偉達的AI 訓練即服務DGX Cloud,它將是第一個采用GH200 NVL32 的 DGX 云,能為開發人員提供單個實例中最大的共享內存。AWS 的DGX云將提高尖端生成式AI 和超過1萬億參數的大語言模型的訓練。此外,英偉達和AWS 正在共同研發名為Ceiba 的項目,設計世界上速度最快的GPU驅動AI 超級計算機,這是一個采用 GH200 NVL32 和 Amazon EFA 互連的大規模系統。它是搭載1.6384萬塊GH200超級芯片的超級計算機 ,AI處理能力達65 exaflops。英偉達將用它推動下一波生成式AI 創新。
AWS的副總裁Dave Brown表示,通過將自研芯片的設計重點放在對客戶重要的實際工作負載上,AWS能為他們提供最先進的云基礎設施。他還表示,AWS和英偉達的合作將為客戶提供更多的選擇和靈活性,讓他們能夠利用最新的AI技術來解決最復雜的問題。拼多多的創始人兼CEO黃崢在財報發布后表示:“我們很高興看到我們的業績持續強勁增長,反映了我們的平臺的吸引力和活力。我們將繼續專注于為我們的用戶提供更多的價值和更好的體驗,同時為我們的商家和品牌提供更多的機會和支持。我們相信,通過不斷地創新和改進,我們將能夠實現我們的愿景,讓農民和消費者直接受益,讓電商更加普惠和可持續。”
原創文章,作者:商業頭條,如若轉載,請注明出處:http://www.bdzhitong.com/article/599843.html