日韩欧美亚洲一区,亚洲一区二区精品,在线观看国精产品一区,蜜臀99久久精品久久久久小说

馬斯克AI大模型Grok開源:參數量達3140億

據了解,Grok-1是一款基于混合專家系統(Mixture-of-Experts,MoE)技術構建的大語言模型,擁有3140億參數,遠超OpenAI GPT-3.5的1750億。

3月18日消息,據媒體報道,馬斯克AI創企xAI正式宣布其大語言模型Grok-1已實現開源,并向公眾開放下載。

馬斯克AI大模型Grok開源:參數量達3140億

據了解,Grok-1是一款基于混合專家系統(Mixture-of-Experts,MoE)技術構建的大語言模型,擁有3140億參數,遠超OpenAI GPT-3.5的1750億。這是迄今參數量最大的開源大語言模型,遵照Apache 2.0協議開放模型權重和架構。

xAI表示,Grok-1始終由xAI自行訓練,其預訓練階段于2023年10月完成。此次發布的是Grok-1預訓練階段結束時的原始基礎模型檢查點,即該模型未經過針對任何具體應用的微調。

xAI的目的之一就是與OpenAI、谷歌、微軟等對手在大模型領域進行競爭,其團隊來自OpenAI、谷歌DeepMind、谷歌研究院、微軟研究院等諸多知名企業和研究機構。

目前,xAI并沒有放出Grok-1的具體測試成績,它與其他公司的大模型之戰將成為業內關注的焦點。

原創文章,作者:潮玩君,如若轉載,請注明出處:http://www.bdzhitong.com/article/637988.html

潮玩君的頭像潮玩君管理團隊

相關推薦

發表回復

登錄后才能評論
主站蜘蛛池模板: 垦利县| 驻马店市| 郴州市| 井陉县| 奉化市| 太白县| 屯昌县| 安顺市| 拜泉县| 重庆市| 青浦区| 永泰县| 义马市| 莎车县| 峡江县| 长葛市| 铜陵市| 石景山区| 南丰县| 镇平县| 卢氏县| 涿州市| 庄浪县| 怀宁县| 洛浦县| 清丰县| 钟山县| 抚宁县| 泰安市| 余干县| 孟津县| 吴忠市| 芷江| 康乐县| 忻城县| 洮南市| 博白县| 巴楚县| 富裕县| 全椒县| 东台市|