近日，OpenAI的“超級對齊”團隊在NeurIPS，一年一度的機器學習會議上，展示了他們最新的研究成果。這支團隊由Collin Burns、Pavel Izmailov和Leopold Aschenbrenner領銜，專注于如何控制比人類更聰明的AI系統??。
OpenAI于今年七月成立了這個團隊，目的是為“超級智能”AI系統——即智能遠超人類的理論系統——制定引導、監管和治理的方法。團隊成員Burns表示，目前他們能夠對齊的模型多數智能水平不及或與人類相當，而如何對齊超越人類智能的模型還沒有明確的方法??。
然而，對于OpenAI的技術是否會在不久的將來或將來任何時候獲得可能毀滅世界、超越人類智能的能力，一些專家持懷疑態度。他們認為，關于即將到來的超級智能的說法，可能只是為了轉移人們對當前AI監管問題的注意，如算法偏見和AI的傾向性??。
該團隊目前正在嘗試構建適用于未來強大AI系統的治理和控制框架。這不是一個簡單的任務，因為“超級智能”的定義以及特定AI系統是否已經達到這一水平，仍然是熱烈討論的話題。目前，團隊采用的方法是使用一個較弱、較不復雜的AI模型（例如GPT-2）來引導一個更先進、更復雜的模型（例如GPT-4）朝著期望的方向發展，同時避免不希望的方向??。
為了推動這方面的技術研究，OpenAI啟動了一個價值1000萬美元的贈款項目，支持超級智能對齊的技術研究。這些贈款將為學術實驗室、非營利組織、個人研究者和研究生保留。OpenAI還計劃在2025年初舉辦一個有關超級對齊的學術會議，屆時將分享和推廣超級對齊獎項的決賽選手的工作??。
通過這篇文章，我們可以看到，OpenAI正在積極探索如何應對和控制超級智能AI的挑戰，同時也在通過贈款項目和會議來促進這一領域的研究。這顯示了他們對未來AI技術發展方向的前瞻性思考和對潛在風險的重視。
原創文章，作者：cl-t，如若轉載，請注明出處：http://www.bdzhitong.com/article/607062.html
