今日，2024年美國總統大選正式拉開帷幕，愛荷華州率先舉行黨團會議。在這個關鍵時刻，生成式人工智能公司OpenAI宣布了一系列措施，以防止其工具（如ChatGPT和DALL-E）被用于創建和傳播”深度偽造”和其他虛假信息，這些信息可能會被用來破壞美國總統大選，甚至是今年全球各國密集舉行的大選。
OpenAI在博文中表示，該公司將確保其工具被用于提供準確的投票信息、執行有節制的政策和提高透明度。為了應對潛在的濫用問題，OpenAI設立了一個專門負責選舉工作的跨職能部門，該部門匯集了公司的安全系統、威脅情報、法律、工程和政策團隊的專業知識。
OpenAI明確表示，其工具將不會被用于任何政治活動或游說目的。此外，該公司還禁止使用其工具和服務創建任何旨在模擬與真實候選人或政府團體聊天的聊天機器人。為了防止散布歪曲人們在選舉中的投票方式或勸阻人們投票的信息，OpenAI將采取措施阻止這些濫用行為。同時，該公司還將允許人們向OpenAI報告可能的違規行為。
除了防止濫用其工具外，OpenAI還在開發相關工具以幫助識別人工智能通過DALL-E制作的深度偽造圖像。目前，該公司正在開發一種名為”出處分類器”的新工具，該工具可以幫助發現人工智能制作的圖像，即使圖像經過了常見類型的修改。包括記者在內的一組測試人員將很快能夠試用這一工具。
最近的一份報告稱，微軟的Copilot聊天機器人使用了OpenAI開發的技術，經常對有關2023年選舉的一些問題提供錯誤的答案。11月，微軟宣布計劃提供一款新工具，幫助各政黨證明其創建的圖像（如廣告和視頻）是真實的，沒有經過人工智能工具的修改。
總體而言，OpenAI采取的這些措施表明了該公司對于防止其工具有被用于破壞選舉的決心。通過跨職能部門的設立和采取防止濫用的措施，OpenAI正在確保其工具有助于提供準確的信息和執行有節制的政策。同時，該公司還在開發新的工具以幫助識別人工智能制作的深度偽造圖像。這些措施有望保護美國總統大選和全球其他密集舉行的大選免受虛假信息的干擾和破壞。
對于愛荷華州率先舉行的黨團會議和即將到來的美國總統大選，這些措施的實施將受到密切關注。隨著選舉的進行，我們將繼續關注OpenAI和其他相關公司的動態，以了解他們如何應對潛在的濫用問題和保護選舉的公正性。
原創文章，作者：秋秋，如若轉載，請注明出處：http://www.bdzhitong.com/article/619789.html
