8 月 16 日消息，由開源中國與上海浦東軟件園聯(lián)合舉辦的全球開源技術(shù)峰會（GOTC2024）在上海舉行。華為數(shù)據(jù)存儲軟件首席專家張群輝分享了 ModelEngine 在垂域大模型領(lǐng)域的應(yīng)用實踐。
據(jù)張群輝介紹，ModelEngine 是華為 DCS（Data Center Stack）全棧的 AI 訓(xùn)推全流程工具鏈，業(yè)界首個采用 AI 流式編程框架，提供從數(shù)據(jù)處理、知識生成，到模型微調(diào)和部署，以及 RAG 應(yīng)用開發(fā)、應(yīng)用部署，為數(shù)據(jù)處理工程師、模型工程師、應(yīng)用開發(fā)者提供開箱即用的全流程 AI 開發(fā)體驗。
張群輝在演講中稱，基于 ModelEngine 開放的數(shù)據(jù)使能、模型使能和應(yīng)用使能工具鏈，支持使用開放的數(shù)據(jù)處理算子、主流的模型和開放的應(yīng)用算子，語料生成時間從月縮短到天。面向開發(fā)者提供一站式 AI 應(yīng)用開發(fā)、評估優(yōu)化和部署，幫助快速構(gòu)建 AI 應(yīng)用，支持 LangChain、LlamaIndex 等插件，保護已有 AI 資產(chǎn)。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請注明出處：http://www.bdzhitong.com/article/674224.html
