Google DeepMind 推出了 SynthID，這是一種新的水印工具，可以區分人工智能生成的圖像。
Synth ID 的創建是為了區分人工智能生成的內容與實際內容并保護版權。最初，它可以與 Google 的圖像創建人工智能 Imagen 一起使用。Imaginen 是托管在 Google Cloud 機器學習平臺 Vertex 上的一項服務。Imaginen 用戶現在可以選擇在創建 AI 圖像時是否添加水印。
去年非常流行的生成式人工智能模型已經傳播了基于人工智能的深度造假、未經同意的色情內容和侵犯版權的問題。水印作為解決這一問題的最流行的想法而受到關注，它是一種將信號隱藏在文本或圖像中以區分其是否由人工智能創建的技術。
去年 7 月，美國政府宣布 OpenAI、Google 和 Meta 等主要人工智能公司自愿承諾開發水印工具，以防止人工智能生成內容的錯誤信息和濫用。
此前，5月，在Google年度I/O大會上，谷歌首席執行官桑達爾·皮查伊(Sundar Pichai)提到，他正在開發一種以水印等版權保護技術為標準的AI模型。隨后，谷歌 DeepMind 成為承諾與美國政府合作的公司中第一家公開發布水印工具的公司。
以前，水印的插入方式是在圖像上添加肉眼可見的覆蓋層或在元數據中添加信息。然而，谷歌 DeepMind 研究副總裁 Pushmeet Kohli 指出，在這種情況下，當圖像被裁剪、調整大小或編輯時，水印可能會被損壞。
Synth ID 使用兩個神經網絡。第一個神經網絡獲取原始圖像并創建一個看起來幾乎相同的新圖像，但對一些像素進行了微妙的修改。這是一種嵌入肉眼無法識別的圖案的方法。第二個神經網絡在圖像中找到這些模式，并告訴用戶水印是否存在或懷疑存在。Cawley 強調，Synth ID 的設計目的是檢測水印，即使圖像被捕獲為屏幕截圖或通過旋轉和調整圖像大小進行編輯。
芝加哥大學教授本·趙表示，谷歌 DeepMind 并不是唯一一家開發這種水印工具的公司。他參與開發了一個防止人工智能收集藝術家作品的系統。類似于 SynthID 的水印工具已經發布，可用于開源圖像創建 AI“Stable Diffusion”。Meta尚未公開發布水印工具，但已對其進行了研究。
Colley 認為，雖然 Google DeepMind 的水印尚不完美，但它比現有水印更能抵抗操縱。
不過，趙教授對這種說法表示懷疑。“我認為很少有水印能夠隨著時間的推移而保持牢固，”他指出。研究表明，文本水印在發布后幾個月內就會變得毫無用處。
他補充說，有惡意勢力試圖使水印對某種利益毫無用處。例如，使用深度偽造內容作為不存在的犯罪或事件的實際照片證據。
趙教授表示：“這些勢力可以通過將 Deepfake 圖像偽裝成真實照片或聲稱真實照片是假的來獲取大量利潤。“他們不會僅僅停留在裁剪圖像、通過壓縮增加損耗或改變顏色。”
盡管如此，SynthID 的推出是良好的第一步，AI Partnership 的人工智能和媒體誠信項目總監 Claire Leibowicz 表示。她解釋說，這些努力可能會導致行業共享有關哪些技術有效、哪些技術無效的信息。
萊博維茨強調，“無論情況多么困難，我們都不能放棄。”
Cawley 向本文解釋說，SynthID 是一種“實驗性”水印工具，他們將研究人們如何使用該工具來確定其優缺點，然后將其擴展到更廣泛的人群。他拒絕回答 Google DeepMind 是否會將 Synth ID 的使用擴展到 Imaginen 之外。此外，沒有提及是否有計劃將 Synth ID 添加到谷歌自己的圖像創建人工智能系統中。
初創公司 Hugging Face 的人工智能研究員 Sasha Luccioni 指出，這一決定可能會限制其實用性。她補充說，如果谷歌擁有該工具的獨家所有權，那么只有谷歌才能嵌入和檢測該水印。
Lucioni 強調，“如果我們在整個圖像創作系統中添加水印組件，就可以減少 Deepfake 色情內容等造成的損害。”
原創文章，作者：小科同學，如若轉載，請注明出處：http://www.bdzhitong.com/article/580543.html
