近日，Meta首席AI科學(xué)家楊立昆（Yann LeCun）在一場關(guān)于人工智能發(fā)展的聯(lián)名直播中表示，行業(yè)需要將人工智能科學(xué)和產(chǎn)品之間劃清界限。其指出現(xiàn)在最具爭議的人工智能開發(fā)，尤其是OpenAI 的 ChatGPT，代表的是一款產(chǎn)品，而不是基礎(chǔ)科學(xué)研發(fā)。
“當(dāng)我們談?wù)揋PT-4或 OpenAI 目前推出的任何產(chǎn)品時，我們不是在談?wù)撗邪l(fā)，而是在談?wù)摦a(chǎn)品開發(fā)，好嗎？” 楊立昆說。“OpenAI 從一個相對開放的 AI 研究實驗室，轉(zhuǎn)變?yōu)橐患覡I利性公司，現(xiàn)在是一種主要為服務(wù)的合同研究實驗室，不再透露任何關(guān)于它們?nèi)绾喂ぷ鞯男畔ⅲ赃@是產(chǎn)品開發(fā)，不是研發(fā)。”
楊立昆與人工智能應(yīng)用公司 Landing.ai 的創(chuàng)始人兼首席執(zhí)行官吳恩達(dá)以及人工智能教育機構(gòu) DeepLearning.ai 舉行了聯(lián)合網(wǎng)絡(luò)直播。兩人提出了他們反對由未來生命研究所提出并由多位知名人士簽署的為期六個月的 AI 測試暫停的論點。 該提案要求人工智能實驗室暫停至少六個月訓(xùn)練。比 OpenAI 的GPT-4更強大的人工智能系統(tǒng)，這是幾種所謂的大型語言模型中的最新模型，是 ChatGPT 等人工智能程序的基礎(chǔ)。
楊立昆和吳恩達(dá)都認(rèn)為，延遲對人工智能的研究是不好的，因為它會阻礙進(jìn)展。 “我覺得，雖然今天的人工智能有一些危害的風(fēng)險。我認(rèn)為偏見、公平、權(quán)力集中，這些都是真正的問題。但它也在創(chuàng)造真正的價值，為教育、為醫(yī)療保健，這是令人難以置信的令人興奮的價值很多人都在創(chuàng)造來幫助其他人，”吳恩達(dá)說。“就像今天的 GPT-4 一樣令人驚嘆，構(gòu)建比 GPT-4 更好的東西將幫助所有這些應(yīng)用程序幫助很多人，”吳恩達(dá)繼續(xù)說道。“因此，暫停這一進(jìn)展似乎會造成很多傷害，并減緩許多非常有價值的東西的創(chuàng)造，這些東西可以幫助很多人。”楊立昆對此表示贊同，同時強調(diào)了研究與產(chǎn)品開發(fā)之間的區(qū)別。 楊立昆說：“我對此的第一反應(yīng)是，呼吁延遲研發(fā)實質(zhì)上是新一輪的蒙昧主義浪潮。” “為什么要減緩知識和科學(xué)的進(jìn)步？”
“然后是產(chǎn)品問題，”楊立昆繼續(xù)說道。“我完全贊成對人們手中的產(chǎn)品進(jìn)行監(jiān)管；我不認(rèn)為監(jiān)管研發(fā)有什么意義，我認(rèn)為這除了減少我們可以用來實際改進(jìn)技術(shù)的知識之外沒有任何目的，更安全。”楊立昆提到 OpenAI 決定通過 GPT-4 大幅限制對其程序工作原理的披露，在上個月向世界介紹該程序的正式研究論文中幾乎沒有提供任何技術(shù)價值。
“部分原因是，人們對 OpenAI 現(xiàn)在的保密感到不滿，因為他們在產(chǎn)品中使用的大部分想法都不是來自他們，”楊立昆說。“它們是由來自谷歌、FAIR [Facebook AI Research] 和其他各種學(xué)術(shù)團(tuán)體等的人發(fā)表的想法，現(xiàn)在它們有點被鎖起來了。”
在問答環(huán)節(jié)中，楊立昆被問及為什么他的同行、加拿大 MILA 人工智能研究所所長 Yoshua Bengio 簽署了暫停信。楊立昆回答說，Bengio 特別關(guān)注 AI 研究的開放性。事實上，Bengio曾表示，OpenAI 轉(zhuǎn)向保密可能會對基礎(chǔ)研究產(chǎn)生寒蟬效應(yīng)。楊立昆說，“我同意他的觀點”，即研究需要開放。“但我們不是在這里談?wù)撗芯浚覀冋務(wù)摰氖钱a(chǎn)品。”楊立昆將 OpenAI 的工作描述為僅僅是產(chǎn)品開發(fā)，這與之前關(guān)于 OpenAI 沒有取得實際科學(xué)突破的言論是一致的。1 月，他表示OpenAI 的 ChatGPT “不是特別有創(chuàng)新性”。
在周五的會議上，楊立昆預(yù)測研究的自由流動將產(chǎn)生在能力上達(dá)到或超過 GPT-4 的程序。
楊立昆說：“這不會持續(xù)很長時間，因為在相對較短的時間內(nèi)，將會有許多其他產(chǎn)品具有類似的功能，如果不是更好的話。”“由于數(shù)據(jù)的飛輪允許他們對其進(jìn)行調(diào)整，OpenAI 取得了一些進(jìn)步，但這不會持續(xù)太久。”
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請注明出處：http://www.bdzhitong.com/article/570938.html
