內容審核這難道會是ChatGPT的新商業模式？OpenAI發言人也透露，已經有客戶在用GPT-4進行內容審查，但并未給出具體名單。今日有消息稱，美國愛荷華州的學校的圖書管理員，已經開始用ChatGPT來篩選帶色情內容的書籍了。
據悉，根據新規定，美國愛荷華州的學校需要下架圖書館中包含性行為描述的書籍，但“閱讀每本書并按新要求篩選根本不可行”。在ChatGPT的幫助下，一個學區終于趕在開學前篩選出19本符合條件的書籍。隔天，OpenAI也正式宣布將GPT-4引入內容審核系統。
在OpenAI看來，GPT-4這項審查功能可將審查更新周期從數月縮短至數個小時，且具有更強的靈活性。這項新的功能不僅在于提高效率和減輕人類工作量，還解決了人工審核中尺度不一致問題。最重要的是，它能夠避免有害內容對審核人員造成的身心傷害。
工作流程上，重點的環節是用戶政策的設計，這部分是由人工主導的。之后GPT-4會使用一些示例進行準確性檢驗和優化。根據GPT-4的預測微調出小型篩選器，就可以對內容進行批量審查了。
OpenAI總裁兼聯合創始人Greg Brockman表示，這項功能“非常可靠”。同時，Brockman還展示出了測試結果作為依據。在色情、暴力等多個類型的有害內容判別上，GPT-4的表現超過了經少量訓練的人類。
原創文章，作者：AI，如若轉載，請注明出處：http://www.bdzhitong.com/article/576258.html
