近日，OpenAI 因為用戶隱私問題一直糾紛不斷。在3月31日，意大利數據監管機構發布了一項臨時緊急決定，要求 OpenAI 停止使用其訓練數據中包含的數百萬意大利人的個人信息。根據監管機構 Garante per la Protezione dei Dati Personali 的說法，OpenAI 沒有合法利在 ChatGPT 中使用人們的個人信息。作為回應，OpenAI 已阻止意大利人訪問其聊天機器人，同時它向正在進一步調查的官員提供答復。
當OpenAI 發布時 2020 年 7 月的 GPT-3，它提供了用于訓練大型語言模型的數據的一瞥。根據一篇 技術論文，從網絡、Reddit 帖子、書籍等中收集的數百萬頁被用于創建生成文本系統。在此數據中收集的是您在網上分享的一些關于您自己的個人信息。這些數據現在讓 OpenAI 陷入困境。
這是西方監管機構首次針對 ChatGPT 采取的行動，凸顯了圍繞創建巨大的生成式 AI 模型的隱私問題，這些模型通常在大量互聯網數據上進行訓練。而意大利提出的問題，也可能使整個歐洲都可能做出類似的決定。在意大利宣布調查后的幾天里，法國、 德國和愛爾蘭的數據監管機構已聯系 Garante，要求提供有關其調查結果的更多信息。
“如果商業模式只是在互聯網上搜索你能找到的任何東西，那么這里可能會出現一個非常重要的問題，”挪威數據保護機構國際負責人 Tobias Judin 說，該機構正在監測事態發展。Judin 補充說，如果一個模型是建立在可能被非法收集的數據之上的，那么就會引發關于是否任何人都可以合法使用這些工具的問題。
歐洲的 GDPR 規則涵蓋了組織收集、存儲和使用人們個人數據的方式 ，保護了4 億多人的數據。這些個人數據可以是從人名到 IP 地址的任何內容——如果它可以用來識別某人，就可以算作他們的個人信息。與美國州級隱私規則的拼湊不同，GDPR 的保護適用于人們的信息可在網上免費獲得的情況。
意大利的 Garante 認為 ChatGPT 在 GDPR 下存在四個問題：OpenAI 沒有年齡控制來阻止 13 歲以下的人使用文本生成系統；它可以提供有關人員的不準確信息；人們還沒有被告知他們的數據已被收集。也許最重要的是，它的第四個論點聲稱，在用于訓練 ChatGPT 的海量數據中收集人們的個人信息“沒有法律依據”。
OpenAI 的 隱私政策沒有直接提及其在訓練數據中使用人們的個人信息的法律原因，但表示它在“開發”其服務時依賴于“合法利益”。該公司沒有回應《連線》雜志的置評請求。與 GPT-3 不同，OpenAI 沒有公布任何進入 ChatGPT 的訓練數據的細節，而 GPT-4被 認為要大幾倍。
然而，GPT-4 的技術文件包括一個關于隱私的部分，其中說它的訓練數據可能包括來自多個來源的“公開可用的個人信息”。該論文稱，OpenAI 采取措施保護人們的隱私，包括“微調”模型以阻止人們詢問個人信息，以及“在可行的情況下”從訓練數據中刪除人們的信息。
“如何合法地收集數據用于訓練數據集，用于從常規算法到一些非常復雜的人工智能的一切，這是一個現在需要解決的關鍵問題，因為我們正處于這種技術采用的臨界點結束了，”Loeb and Loeb 律師事務所的合伙人杰西卡·李 (Jessica Lee) 說。
牛津大學人工智能倫理研究所高級研究員、數據實踐作者Elizabeth Renieris 表示：“這項技術的構建模塊的基礎已經腐爛，我認為這將很難治愈。 ” 她指出，許多用于訓練機器學習系統的數據集已經存在多年，而且在將它們放在一起時可能很少考慮隱私問題。
“數據最終如何進入 GPT-4 之類的東西，存在這種分層和復雜的供應鏈，”Renieris 說。“從來沒有真正設計或默認的任何類型的數據保護。” 2022 年，一個廣泛使用的圖像數據庫的創建者建議對數據集中的人臉圖像進行模糊處理，該數據庫已幫助訓練 AI 模型達十年之久 。
原創文章，作者：蘋果派，如若轉載，請注明出處：http://www.bdzhitong.com/article/570840.html
