日韩欧美亚洲一区,亚洲一区二区精品,在线观看国精产品一区,蜜臀99久久精品久久久久小说

加拿大Cohere發布輕量AI模型Command A 兩塊GPU即可驅動

加拿大Cohere發布輕量AI模型Command A 兩塊GPU即可驅動

加拿大人工智能初創企業Cohere于昨日正式推出輕量化大語言模型Command A。該產品主打低硬件配置部署,公司宣稱僅需配備兩塊英偉達A100或H100顯卡即可運行,現已在Hugging Face平臺開放學術機構測試。

據技術文檔顯示,Command A支持256k超長上下文處理及23種語言交互,適用于數據分析、客戶服務等企業場景。在速度測試中,該模型實現每秒156個token的生成效率,較GPT-4o提升75%。企業強調,該產品專為算力資源有限的中小企業設計,較傳統大模型減少94%的硬件投入。

Cohere技術團隊在演示中對比顯示,執行SQL查詢生成任務時,Command A在雙顯卡環境下的響應速度與需要32塊顯卡的競品模型持平。在工具調用準確性測試中,其醫療診斷指令追蹤準確率達到89%,金融數據分析誤差率控制在2%以內。

值得關注的是,該模型特別優化了延遲控制,在連續對話場景中保持800毫秒內的響應速度。企業透露,已有加拿大連鎖零售集團將該模型應用于實時庫存管理系統,成功將數據處理時長從45分鐘壓縮至8分鐘。

目前,Command A的1.0版本已部署在Hugging Face平臺,提供免費學術授權。企業計劃于今年第三季度在AWS、Azure等主流云平臺上線商用版本,并承諾保持基礎版永久免費。行業數據顯示,這是首個實現雙顯卡部署的百億參數級大語言模型。

此次發布恰逢全球AI算力成本攀升節點,微軟、谷歌等科技巨頭近期相繼上調云服務價格。Cohere首席執行官艾丹·戈麥斯表示,Command A系列后續將推出移動端適配版本,進一步降低企業AI應用門檻。

原創文章,作者:AI,如若轉載,請注明出處:http://www.bdzhitong.com/article/710360.html

AI的頭像AI認證作者

相關推薦

發表回復

登錄后才能評論
主站蜘蛛池模板: 肃宁县| 莎车县| 东平县| 克什克腾旗| 天峨县| 色达县| 上林县| 进贤县| 什邡市| 固原市| 鄂托克前旗| 绥阳县| 沭阳县| 桂林市| 蒙城县| 北辰区| 军事| 青浦区| 临安市| 甘肃省| 新密市| 垣曲县| 本溪| 固安县| 宝山区| 富宁县| 扶余县| 赣榆县| 宜昌市| 禹城市| 许昌县| 新干县| 凌源市| 尚志市| 紫阳县| 浦东新区| 名山县| 彰化市| 朝阳县| 新巴尔虎左旗| 新竹市|