10月25日，據外媒報道，OpenAI負責AGI（又稱通用人工智能）準備工作的高級顧問布倫戴奇日前離職，并公開發出警告，沒有公司為AGI到來做好準備，包括OpenAI。
布倫戴奇稱，無論是OpenAI還是任何其他前沿實驗室，都沒有為（AGI）做好準備，世界也沒有做好準備。布倫戴奇此前花了六年時間幫助制定公司的人工智能安全計劃。
AGI通常指的是一種具備廣泛智能的人工智能系統，能夠像人類一樣在多種不同的領域和任務上進行學習、推理和解決問題。
OpenAI安全團隊此前已有多名員工高調離職，包括著名研究員萊克，他聲稱 “安全文化和流程已經被閃亮的產品所取代 ”之后離開了公司。
這凸顯了OpenAI最初的使命與其商業野心之間日益加劇的緊張關系。據報道，OpenAI面臨著在兩年內從非營利性公益公司轉型為營利性公益公司的壓力，否則就有可能退還最近一輪66億美元投資的資金。早在2019年OpenAI首次成立營利部門時，布倫戴奇就發表了保留意見。
在解釋自己離職的原因時，布倫戴奇提到，在OpenAI，他的研究和出版自由受到越來越多的限制。他強調，在人工智能政策討論中需要有獨立的聲音，不受行業偏見和利益沖突的影響。在為OpenAI的領導層提供內部準備方面的建議后，他認為自己現在可以從組織外部對全球人工智能治理產生更大的影響。
布倫戴奇的離職也可能反映出OpenAI內部更深層次的文化分歧。許多研究人員加入OpenAI是為了推進人工智能研究，而現在他們卻發現自己身處一個越來越以產品為導向的環境中。內部資源分配已成為一個熱點，有報道稱，萊克的團隊在最終解散前曾被剝奪了用于安全研究的計算能力。
盡管存在這些摩擦，但布倫戴奇提到，OpenAI提出將提供資金、和早期模型訪問權限，支持他未來的工作，沒有任何附加條件。
原創文章，作者：蘋果派，如若轉載，請注明出處：http://www.bdzhitong.com/article/688960.html
