近日消息，據彭博社報道，OpenAI 成立了一個董事會委員會，用來評估其人工智能模型的安全性。這一舉措距離該公司解散內部安全團隊以及安全問題負責人離職僅數周時間。
此前，OpenAI 的治理問題受到了來自兩位前董事會成員海倫?托納 (Helen Toner) 和塔莎?麥考利 (Tasha McCauley) 的嚴厲批評。她們在周日的《經濟學人》雜志上撰文，對 OpenAI 的治理方式提出質疑。
新成立的委員會將在 90 天內評估 OpenAI 技術的保障措施，并提交報告?！岸聲瓿扇鎸彶楹?，OpenAI 將以符合安全原則的方式公開分享所采納的建議，”該公司周二在其博客中寫道。
OpenAI 還表示，他們最近已經開始訓練其最新的 AI 模型。
去年秋天，OpenAI 首席執行官薩姆?阿爾特曼 (Sam Altman) 與聯合創始人兼首席科學家伊利亞?蘇茨凱沃 (Ilya Sutskever) 在人工智能產品開發速度和限制危害的措施上發生沖突，阿爾特曼在一次董事會政變中被短暫罷免。
本月，蘇茨凱沃和他的得力助手 Jan Leike 離開公司，這兩位科學家領導了 OpenAI 的超智能體對齊團隊 (superalignment team)，該團隊專注于研究超人類人工智能的長期威脅。Leike 在辭職后寫道，他的部門在 OpenAI 內部 “爭奪計算資源” 方面遇到了困難。其他離職員工也表達了類似的批評意見。
蘇茨凱沃離職后，OpenAI 解散了他的團隊。該公司周二表示，這項特殊工作將由其研究部門和新任命的對齊科學負責人、聯合創始人約翰?舒爾曼 (John Schulman) 領導下繼續進行。
上周 OpenAI 取消了一項政策，該政策規定如果前員工批評公司，將取消其股票期權。
OpenAI 新成立的安全委員會將由三位董事會成員組成，分別是董事長布雷特?泰勒 (Bret Taylor)、Quora 首席執行官亞當?德安杰洛 (Adam D’Angelo) 和索尼娛樂公司前高管妮可?塞利格曼 (Nicole Seligman)，以及包括舒爾曼和阿爾特曼在內的六名員工。該公司表示將繼續咨詢外部專家，并提到了其中兩位：唐納德?特朗普時期國土安全部顧問羅布?喬伊斯 (Rob Joyce) 和喬?拜登總統任內司法部的前官員約翰?卡林 (John Carlin)。
原創文章，作者：科技探索者，如若轉載，請注明出處：http://www.bdzhitong.com/article/657553.html
