OpenAI旗下的GPT Store，一個旨在為用戶提供從編程輔助到健身建議等多樣化功能的平臺，近期因質量與合規性問題而陷入輿論漩渦。據外媒調查顯示，該商店內存在大量涉嫌侵犯版權的GPT模型，其中不乏未經授權就生成迪士尼和漫威角色內容的“鋼鐵俠”GPT和“米奇老鼠”GPT等。
盡管OpenAI宣稱其采用了自動檢測和人工審查相結合的嚴格審核制度，但現實情況卻顯示，大量問題模型成功地逃脫了審核，得以在商店中上架。這些問題不僅涉及版權侵犯，還包括學術誠信的嚴重問題。部分GPT模型甚至聲稱能夠繞過內容剽竊檢測工具，助長了抄襲行為，為學術界帶來不小的沖擊。
更為令人擔憂的是，商店中還存在一些明顯違規的內容，例如模仿公眾人物對話或角色的GPT模型，包括知名企業家埃隆·馬斯克、前美國總統唐納德·特朗普以及影視明星萊昂納多·迪卡普里奧和喬·羅根等。這些模型不僅可能侵犯到相關人士的權益，也引發了公眾對于個人隱私和肖像權保護的擔憂。
此外，一些GPT模型還宣稱自己是特定產品的專家，如微軟GPT，這類模型可能涉及商業機密和敏感信息的泄露風險。
在嘗試解決這些問題時，OpenAI面臨了不小的挑戰。盡管有用戶試圖“越獄”OpenAI的模型以獲取更多權限，但均未能成功。這顯示出OpenAI在模型安全和權限管理方面的技術實力，但同時也反映出其在內容審核和質量控制方面的不足。
此次GPT商店的質量與合規風波，無疑給OpenAI敲響了警鐘。如何有效應對這些挑戰，確保平臺內容的合規性和質量，將直接影響到OpenAI GPT Store的未來走向。業界專家呼吁OpenAI加強審核機制，提升技術防范能力，并加強與版權所有者和相關機構的溝通與合作，共同維護一個健康、有序的GPT模型應用環境。
原創文章，作者：AI，如若轉載，請注明出處：http://www.bdzhitong.com/article/639570.html
