近日消息,據界面新聞報道,多個微信群流傳一則消息:“某頭部大廠的大模型訓練被實習生入侵,注入了破壞代碼,導致其訓練成果不可靠,可能需要重新訓練。據稱遭到入侵的代碼注入了 8000 多張卡,帶來的損失可能超過千萬美元?!?/p>
據知情人士處透露,該頭部大廠為字節跳動。此事發生在今年 6 月,起因是某高校的博士在字節跳動商業化技術團隊實習,因對團隊資源分配不滿,使用攻擊代碼破壞團隊的模型訓練任務。截至目前,官方未進行回應。
傳聞顯示,該田姓實習生利用了 HF(注:huggingface)的漏洞,在公司的共享模型里寫入破壞代碼,導致模型的訓練效果忽高忽低,無法產生預期的訓練效果,而且 AML 團隊無法核查原因。但傳聞曝出之后,該實習生還在某微信群里辟謠稱,自己發完論文后就從字節跳動離職,這個當口有另一個人鉆漏洞改模型代碼,把鍋扣到自己頭上。
知情人士稱,字節跳動內部已經調查明確此事為田姓實習生所為。目前,該實習生已被辭退,字節跳動同時把此事同步給陽光誠信聯盟和企業反舞弊聯盟,以及該實習生所在的給學校。但這名實習生被辭退后到處“辟謠”甩鍋,稱是其他人所為。
報道稱,該實習生攻擊的并不是豆包大模型,而是商業化技術團隊的模型訓練任務,影響了該技術團隊的一些業務進展,但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。
原創文章,作者:潮玩君,如若轉載,請注明出處:http://www.bdzhitong.com/article/687155.html