最近，人工智能發展的爆炸式增長已經引起了人們對錯誤信息、虛假信息、剽竊和機器生成的惡意軟件的擔憂。生成式人工智能可能會給普通互聯網用戶的隱私帶來哪些問題？根據專家的說法，答案主要取決于這些機器人的訓練方式以及我們計劃與它們互動的程度。
為了復制類似人類的交互，AI 聊天機器人接受了大量數據的訓練，其中很大一部分數據來自Common Crawl等存儲庫。顧名思義，Common Crawl 僅通過爬網和抓取開放網絡就積累了數年和 PB 級的數據?！斑@些模型正在對互聯網上公開可用數據的大型數據集進行訓練，”斯坦福大學計算機科學系博士生、前微軟研究院 AI 研究員 Megha Srivastava 說。盡管 ChatGPT 和 Bard 使用他們所謂的 Common Crawl 數據的“過濾”部分，但根據 Srivastava 的說法，模型的龐大規模使得“任何人都不可能通過某種方式查看數據并對其進行清理”。
由于您自己的粗心大意或第三方糟糕的安全措施，現在可能會出現在互聯網的某個偏遠角落。盡管普通用戶可能難以訪問，但信息有可能被抓取到訓練集中，并且可能會被聊天機器人反省。機器人吐出某人的實際聯系信息絕不是理論上的問題。彭博社專欄作家 Dave Lee 在 Twitter 上發帖稱，當有人要求 ChatGPT 在加密消息平臺 Signal 上聊天時，它提供了他的確切電話號碼。這種交互可能是一種邊緣情況，但這些學習模型可以訪問的信息仍然值得考慮。“OpenAI 不太可能想要收集醫療保健數據等特定信息并將其歸因于個人以訓練其模型，”安全組織 SANS 研究所的研究員 David Hoelzer 表示。
當我們詢問它采取了哪些措施來保護數據隱私，或者它如何處理可能被抓取到其訓練集中的個人身份信息時，ChatGPT 背后的公司 Open AI 沒有回應。所以我們做了退而求其次的事情，并詢問了 ChatGPT 本身。它告訴我們，它“被編程為遵循保護用戶隱私和個人信息的道德和法律標準”，并且“除非提供給我，否則無法訪問個人信息”。谷歌方面表示，它在 Bard 中編寫了類似的防護欄，以防止在對話期間共享個人身份信息。
有幫助的是，ChatGPT 提出了生成人工智能可能帶來隱私風險的第二個主要載體：軟件本身的使用——通過直接在聊天記錄中共享的信息，或者通過服務在使用過程中捕獲的設備和用戶信息。OpenAI 的隱私政策引用了它收集的關于用戶的幾類標準信息，這些信息可能是可識別的，并且在啟動它時，ChatGPT 確實警告說，其 AI 培訓師可能會審查對話以改進系統。
與此同時，谷歌的巴德沒有獨立的隱私政策，而是使用其他谷歌產品共享的一攬子隱私文件與巴德的對話不必保存到用戶的谷歌賬戶。其表示，用戶可以通過谷歌刪除對話?！盀榱私⒑途S持用戶信任，他們必須在前端的隱私政策和數據保護程序方面非常透明，”弗吉尼亞理工大學教授兼杰出人文研究員 Rishi Jaitly 表示。
根據該服務的常見問題解答頁面，盡管有一個“清晰對話”操作，但按下該操作實際上并不會刪除您的數據，OpenAI 也無法刪除特定提示。雖然該公司不鼓勵用戶分享任何敏感信息，但似乎刪除提供給 ChatGPT 的個人身份信息的唯一方法是刪除您的帳戶，該公司表示這將永久刪除所有相關數據。
Hoelzer 表示，他并不擔心 ChatGPT 會吸收個人對話來學習。但該對話數據存儲在某個地方，因此其安全性成為一個合理的問題。順便說一下，ChatGPT 在 3 月份曾短暫下線，因為一個編程錯誤泄露了有關用戶聊天記錄的信息。目前尚不清楚這些 AI 的聊天記錄是否會成為惡意行為者的有價值目標，在他們廣泛部署的初期。
在可預見的未來，最好以用戶應該對待任何其他技術產品的同樣懷疑來對待這些類型的聊天機器人。Srivastava 表示“使用這些模型的用戶應該懷著與模型進行任何交互的期望進入，這對于 Open AI 或任何其他公司來說都是為了他們的利益而使用的公平游戲。”
原創文章，作者：蘋果派，如若轉載，請注明出處：http://www.bdzhitong.com/article/570927.html
