近日，全球知名的人工智能公司OpenAI和Anthropic宣布了一項重要舉措，與美國人工智能安全研究所（US AI Safety Institute）簽署諒解備忘錄，承諾在發布重大新的人工智能模型前，將允許美國政府提前訪問并評估這些模型的安全性。這一合作被視為推動AI技術安全發展的重要里程碑。
根據協議內容，兩家公司在其AI模型公開發布之前及之后，都將向美國政府開放訪問權限，以便共同識別并緩解潛在的安全風險。美國政府表示，這一合作將有助于增強對AI技術的理解和監管，確保AI技術的安全可控發展。
OpenAI首席戰略官Jason Kwon對此次合作表示高度支持，他強調：“我們非常支持美國AI安全研究所的使命，并期待通過合作，共同制定AI模型的安全最佳實踐和標準。我們相信，這一合作將在確保美國在負責任開發AI方面的領導地位上發揮關鍵作用?！?/p>
Anthropic公司同樣對此次合作寄予厚望。公司聯合創始人兼政策負責人Jack Clark表示：“確保AI安全可靠對于發揮該技術的積極影響至關重要。通過這種測試和合作方式，我們能夠更好地發現和減少AI帶來的風險，推動負責任的AI發展。我們為能參與這項重要工作感到自豪，并期望為AI的安全性和可信度設立新的標準。”
值得注意的是，這一合作正值全球范圍內對AI監管政策討論的熱點時期。在聯邦和州立法機構紛紛探討如何平衡AI技術創新與安全監管之際，OpenAI和Anthropic的舉措無疑為行業樹立了典范。周三，加利福尼亞州立法者通過了《前沿人工智能模型安全創新法案》（SB 1047），要求該州的人工智能公司在訓練先進基礎模型前采取特定安全措施。盡管該法案已進行修改并等待州長簽署，但仍引發了業界的廣泛關注和討論。
美國白宮也一直在積極尋求從主要AI公司獲得關于安全措施的自愿承諾。多家領先的AI公司已作出非約束性承諾，投資于網絡安全和歧視研究，并致力于對AI生成內容進行水印標記等安全措施。
美國人工智能安全研究所所長伊麗莎白·凱利在一份聲明中強調：“這些新的協議只是開始，但它們是我們努力幫助負責任地管理AI未來的一個重要里程碑?！彼硎?，未來將繼續推動AI技術的安全發展，確保AI技術能夠造福人類社會。
此次OpenAI與Anthropic與美國政府的合作，無疑為AI技術的安全發展注入了新的動力。隨著AI技術的不斷進步和應用領域的不斷拓展，如何確保AI技術的安全性和可信度將成為全球關注的焦點。通過加強合作與監管，我們有理由相信AI技術將在未來發揮更加積極的作用，推動人類社會的進步和發展。
原創文章，作者：AI，如若轉載，請注明出處：http://www.bdzhitong.com/article/677402.html
