【新智元導讀】OpenAI首席科學家在最近的專訪中拋出了很多驚人言論。在他看來，ChatGPT背后的神經(jīng)網(wǎng)絡已經(jīng)產(chǎn)生了意識，而且未來人類會與人工智能融合起來，出現(xiàn)新的形態(tài)。而他現(xiàn)在工作的重點，已經(jīng)不是去創(chuàng)建那個必然會出現(xiàn)的通用人工智能，而是解決如何讓AI善待人類的問題。
昨晚，「ChatGPT可能已經(jīng)有了意識」的話題就上了微博熱搜。
OpenAI的聯(lián)合創(chuàng)始人兼首席科學家Ilya Sutskever在接受采訪時表示，現(xiàn)在的首要任務已經(jīng)不是制作下一個GPT或DALL·E，而是研究如何阻止超級AI的失控！
他認為，ChatGPT可能已經(jīng)有意識，未來超級AI將會成為一種潛在風險。
而且未來人類，將會與機器融為一體。
而他自己未來在OpenAI工作的重點，已不是開發(fā)更為強大的AI系統(tǒng)，而是要帶領(lǐng)「超級對齊」團隊，為人類與AI共生的世界，保駕護航。
某種程度上，這才是回歸到OpenAI成立的初心——確保AI能為人類服務。
OpenAI的幕后英雄——Ilya Sutskever
在舊金山Mission區(qū)一條不起眼的街道上，OpenAI 的聯(lián)合創(chuàng)始人兼首席科學家Sutskever在公司一棟不起眼的辦公樓里完成了這次訪談。
他談了很多關(guān)于顛覆世界技術(shù)的下一步發(fā)展，以及為什么構(gòu)建OpenAI的下一代生成模型不再是他工作的重點。
Sutskever說，他的工作重心已經(jīng)不是構(gòu)建下一代GPT或DALL-E，而是找出如何阻止人工智能（他認為不是目前的AI，而是一種假想的未來技術(shù)，能夠全面超越人類智能的AI）的失控。
在他看來，有一天很多人類會選擇與機器融合為一體。
Sutskever的談話內(nèi)容很多聽起來都很瘋狂，但已經(jīng)比前兩年他說過的話聽起來「理智」多了。
因為他覺得，ChatGPT已經(jīng)改變了很多人對技術(shù)的期望，將很多在普通人看來「永遠不會發(fā)生」的事變成了「會比你想象的更快發(fā)生」。
在預測通用人工智能（他指的是像人類一樣聰明的機器）的發(fā)展之前，他說：「重要的是，現(xiàn)在這個發(fā)展方向已經(jīng)出現(xiàn)了」，「人類在某個時間點一定會擁有AGI。也許OpenAI會構(gòu)建它。也許其他公司會建造它?！?/p>
OpenAI的首席執(zhí)行官Sam Altman在夏天的大部分時間都在環(huán)球訪問，熱情地與政客們打交道，并在世界各地擠滿人的禮堂發(fā)表演講。
不過Sutskever并不是一個公眾人物，他也不接受太多采訪。
他說話時從容、有條理。當他思考自己想說的內(nèi)容以及如何表達時，他會停頓很長時間，像解謎一樣翻來覆去地思考問題。
他似乎對談論自己不感興趣?！肝疫^著非常簡單的生活，」他說?！肝疑习啵缓蠡丶?。我不太做太多其他事情。有人會參加很多社交活動。但我不會?！?/p>
但當聊到人工智能，以及他在技術(shù)背后看到的劃時代的風險和回報時，他就變得非常健談「這將是具有里程碑意義的、驚天動地的，它的出現(xiàn)會改變一切?！?/p>
年輕的AI研究人員如何改變了這個世界
Sutskever是圖靈獎得主Hinton的學生，在他2000年拜入Hinton門下之時，大多數(shù)AI研究人員認為神經(jīng)網(wǎng)絡是死路一條。
但Hinton不這么認為。他當時已經(jīng)開始訓練微型模型，這些模型可以一次生成一個字符的短文本字符串。
Sutskever說：「這就是生成式人工智能的開始。這真的很酷——只是性能還很一般。」
和Hinton一樣，他看到了神經(jīng)網(wǎng)絡和深度學習的潛力的。
2012年，Sutskever、Hinton和Hinton的另一位研究生Alex Krizhevsky構(gòu)建了一個名為AlexNet的神經(jīng)網(wǎng)絡，他們訓練該網(wǎng)絡來識別照片中的物體，其效果遠遠好于當時的任何其他軟件，這成為了深度學習的大爆炸時刻。
英偉達的黃老板說，當多倫多團隊研究AlexNet時，英偉達向多倫多團隊提供了一些GPU。
但他們想要最新版本——GTX 580的芯片，不過這款芯片當時一直處于脫銷狀態(tài)，幾乎買不到。
黃老板說，Sutskever開車從多倫多去到了紐約居然買到一車GTX580。
「我不知道他是怎么做到的——我很確定用戶每人只能買一個。我們有一個非常嚴格的銷售政策，每個玩家只能買一個GPU，但他顯然裝滿了整個后備箱。
但這個裝滿GTX 580的后備箱改變了世界?！?/p>
AlexNet取得成功后，谷歌找上門來。它收購了Hinton的公司DNNresearch，并邀請了Sutskever加入谷歌。
Sutskever在谷歌展示了深度學習的模式識別能力可以應用于數(shù)據(jù)序列，例如單詞、句子以及圖像。
「Sutskever一直對語言很感興趣，」他的前同事、現(xiàn)任谷歌首席科學家Jeff Dean說，「多年來我們進行了很多討論。Sutskever對技術(shù)的發(fā)展有很強的直覺?！?/p>
但Sutskever并沒有在谷歌呆太久。2014年，他被招募成為OpenAI的聯(lián)合創(chuàng)始人。
在10億美元的支持下，這家新公司從一開始就將目標設定為開發(fā)AGI，但當時，很少有人真的認為這目標能很快達到。
但Sutskever加入后，設定這樣的目標似乎就變得合理了起來。
「Y Combinator 」投資董事總經(jīng)理Dalton Caldwell表示，Sutskever早就名聲在外了。
「我記得Sam Altman稱Sutskever為世界上最受尊敬的研究人員之一，」Caldwell說?！杆J為Sutskever能夠吸引很多頂尖的人工智能人才加入。
他甚至提到，Yoshua Bengio認為，不太可能找到比Sutskever更好的候選人來擔任OpenAI的首席科學家?！?/p>
OpenAI的第一個大語言模型在2016年問世。隨后又接著推出了GPT-2和GPT-3，然后是DALL-E。
沒有人建造出如此好的東西。每一次發(fā)布新產(chǎn)品，OpenAI都提高了人們對AI可能性的認知上限。
Ilya：我們一開始覺得ChatGPT應該沒什么人會用
去年11月，OpenAI發(fā)布了ChatGPT，重新包裝了現(xiàn)有技術(shù)，直接顛覆了整個行業(yè)。
但是當時，OpenAI并沒有意識到這一切。
Sutskever表示，公司內(nèi)部的期望已經(jīng)低得不能再低了，「我承認，這讓我有點尷尬——我不知道我是否應該說出來，但管他呢，事實就是這樣——當我們制作ChatGPT時，我并不覺得這個東西到底有啥好的。
當你問它一個事實問題時，它會給你一個錯誤的答案。我認為這應該不會有什么人用。人們會說，你為什么要做這種東西，這東西很無聊！」
Sutskever說，ChatGPT最吸引人的地方就是方便——那時候，ChatGPT背后的大型語言模型已經(jīng)存在了幾個月了。
但將它包裝在一個易于訪問的界面中，并免費讓所有人用，讓數(shù)十億人第一次意識到OpenAI和正在構(gòu)建一個什么產(chǎn)品，這還是第一次。
「第一次的體驗真的讓人著迷，」Sutskever說?！府斈愕谝淮问褂盟鼤r，我覺得幾乎是一種通靈一樣的體驗。你會說：天哪，這臺計算機似乎能理解我在說什么?！?/p>
OpenAI在不到兩個月的時間里就積累了1億用戶，其中許多人都被這個令人驚嘆的新玩具弄得眼花繚亂。
存儲公司Box的首席執(zhí)行官Aaron Levie在推特上總結(jié)了ChatGPT發(fā)布后一周后整個行業(yè)的氛圍：
「ChatGPT是技術(shù)領(lǐng)域罕見的時刻之一，在這里你可以看到未來一切都將被顛覆的那一線曙光?！?/p>
「AGI在機器學習領(lǐng)域不再是一個貶義詞，」他說，「這是一個很大的變化。人們之前的態(tài)度是：人工智能沒啥用，每一步都非常困難，道路會非常曲折。
當人們炒作AGI時，AI研究人員會說——問題太多了，很多問題解決不了。但有了ChatGPT，感覺就開始不一樣了?！?/p>
這種轉(zhuǎn)變在一年前才開始發(fā)生？「這一切的發(fā)生都是因為ChatGPT，」他說。「ChatGPT讓機器學習研究人員得以實現(xiàn)自己的夢想?！?/p>
而OpenAI的科學家從一開始就是布道者，他們一直通過博客文章和巡回演講來激發(fā)這些夢想。
「現(xiàn)在終于有人在談論人工智能將走多遠了——人們在談論AGI，或者說超級智能。」不僅僅是研究人員。「各國政府正在討論這個問題，」Sutskever說?！高@很瘋狂。」
神經(jīng)網(wǎng)絡可以產(chǎn)生意識
Sutskever堅持認為，所有這些關(guān)于還不存在（也可能永遠不會存在）的技術(shù)的討論是一件好事，因為它讓更多的人意識到那些他們自己已經(jīng)認為是理所當然的未來。
「你可以用AGI做很多令人驚奇的事情，不可思議的事情：自動化醫(yī)療保健，使其便宜一千倍，效果好一千倍，治愈如此多的疾病，真正解決全球變暖問題，」他說?！傅灿泻芏嗳藫模骸彀。珹I公司能成功管理這項巨大的技術(shù)嗎？’」
這樣看來，AGI聽起來更像是一個實現(xiàn)愿望的精靈，而不是現(xiàn)實世界中將要發(fā)生的事情。你可以對它許下任何你的愿望。
當Sutskever談論AGI時，他到底在談論什么？「AGI并不是一個科學術(shù)用語，」他說?！杆且粋€有用的門檻標準，一個參考點?！?/p>
在他看來「如果人類可以做到的事，AI也可以做到，那這就是AGI?！?/p>
雖然很多研究人員不相信真的會有AGI，但是這個愿景一直激勵著Sutskever。
他將神經(jīng)網(wǎng)絡和大腦的運作方式進行了比較。兩者都接收數(shù)據(jù)，聚合來自該數(shù)據(jù)的信號，然后基于一些簡單的過程來決定（神經(jīng)網(wǎng)絡中的數(shù)學、大腦中的化學物質(zhì)和生物電）傳播或不傳播這些信號。
雖然這個比喻簡化了很多細節(jié)，但核心就是這樣。
「如果你相信這一點——如果你允許自己相信這一點——那么就會產(chǎn)生很多有趣的衍生想法，」Sutskever說。
「如果你有一個非常大的人工神經(jīng)網(wǎng)絡，它應該做很多事情。如果人腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡也可以做類似的事情?！?/p>
「如果你足夠認真地意識到到這一點，那么一切都會水到渠成，」他說。「我的大部分工作都可以用這句話這個來解釋。」
2022年2月，Sutskever發(fā)帖稱，「今天的大型神經(jīng)網(wǎng)絡可能具有輕微的意識」
（谷歌DeepMind首席科學家、倫敦帝國理工學院教授、電影《機械姬》的科學顧問Murray Shanahan在下面回復到「你這好像是在說，這一大片麥田里已經(jīng)有了輕微的蘭州拉面」）。
解決一個還不存在的問題——「超級通用人工智能」
當其他人苦苦思索如何讓機器能夠與人類智能相媲美時，Sutskever卻在為能夠超越人類能力的機器做準備了。
他將這種現(xiàn)象稱為超級人工智能：「他們會更深入地看待事物。他們會看到我們看不到的東西?！?/p>
他所說的比人類聰明的智能是什么意思？
「我們在AlphaGo中看到了一個的超級智能的影子，」他說。
2016年，DeepMind的下棋人工智能以4-1擊敗了世界上最好的圍棋棋手之一李世石。
「它弄清楚了如何以不同于人類方式下圍棋」Sutskever說?！杆岢隽巳碌南敕??！?/p>
Sutskever提到了AlphaGo最有名的第37步棋。在與李世石的第二場比賽中，人工智能的一步棋讓評論員感到困惑。
他們認為AlphaGo下了一步昏招。但事實上，它下了棋史上從未見過的一步制勝棋。
「想象一下這種程度的洞察力，出現(xiàn)在社會所有領(lǐng)域時會發(fā)生什么」Sutskever說。
這個想法導致Sutskever做出了他職業(yè)生涯中最大的轉(zhuǎn)變。
他與OpenAI的科學家同事Jan Leike一起成立了一個團隊，專注于他們所謂的「超級對齊」。
對齊意思是讓人工智能模型做你想做的事，僅此而已。
「超級對齊」是OpenAI自己提出的概念，意思是控制超級智能做人類想讓它做的事情。
OpenAI的目標是提出一套用于構(gòu)建和控制這種未來技術(shù)的故障安全程序。OpenAI表示將分配其計算資源的五分之一來解決該問題，希望能在四年內(nèi)解決它。
「現(xiàn)有的對齊方法不適用于比人類更聰明的模型，因為它們從根本上假設人類可以可靠地評估人工智能系統(tǒng)正在做什么，」Jan Leike說，「隨著人工智能系統(tǒng)變得更加強大，它們將承擔更艱巨的任務。」
這將使人類更難評估它們。
「在與Ilya一起組建超級對齊團隊時，我們已經(jīng)著手解決這些未來的對齊挑戰(zhàn)，」他說。
谷歌首席科學家Dean表示：「不僅要關(guān)注大型語言模型的潛在機遇，還要關(guān)注其風險和缺點，這一點非常重要?！?/p>
對于Sutskever來說，「超級對齊」遲早要做的事情?！高@是一個未解決的問題，」他說。
他認為，像他這樣的核心機器學習研究人員正在致力于解決這個問題?！肝疫@樣做是為了我自己的利益，」，「任何人構(gòu)建的任何超級智能都不能失控，這一點顯然很重要?！?/p>
超對準的工作才剛剛開始。Sutskever表示，這需要研究機構(gòu)進行廣泛的變革。但他心中有一個想要設計的保障措施的理想標準：一個像父母對待孩子一樣對待人類的系統(tǒng)。
「在我看來，這是黃金標準，」他說?！溉藗冋娴暮荜P(guān)心自己的孩子，沒有人會否認這一點?！?/p>
「一旦你克服了流氓人工智能的挑戰(zhàn)，然后呢？在一個擁有更智能的人工智能的世界里，人類還有生存空間嗎？」
「一種可能性——以今天的標準來看可能很瘋狂，但以未來的標準來看不會那么瘋狂——就是許多人會選擇成為人工智能的一部分。」Sutskever表示， 「一開始，只有最勇敢、最有冒險精神的人才會嘗試這樣做。也許其他人會效仿，也可能不會」