黃仁勛：從我認(rèn)識(shí)你以來(lái)，你做了很多開創(chuàng)性的工作。從多倫多大學(xué)開始，你與 Alex (Krizhevsky）和 Jeff Hinton 一起共同發(fā)明了 AlexNet，這帶來(lái)了現(xiàn)代 AI 的大爆炸。你的職業(yè)生涯也把你帶到了美國(guó)灣區(qū)，完成了OpenAI 的創(chuàng)立，創(chuàng)造了GPT-1，2，3。當(dāng)然了，還有讓 AI 風(fēng)靡全世界的 ChatGPT。
真是青年科學(xué)家的卓越履歷，讓整個(gè)行業(yè)都對(duì)你的成就由衷地敬佩。
我還是追溯一下吧，來(lái)問(wèn)問(wèn)你，關(guān)于深度學(xué)習(xí)的一些問(wèn)題。你對(duì)深度學(xué)習(xí)是什么認(rèn)識(shí)？為什么你知道它會(huì)發(fā)揮作用？你心中就一定認(rèn)為深度學(xué)習(xí)會(huì)取得如此成就嗎？
伊爾亞：我個(gè)人對(duì)人工智能的興趣有很多原因，出發(fā)點(diǎn)就是對(duì) AI 巨大影響力的直覺(jué)性認(rèn)識(shí)。同時(shí)，我也對(duì)究竟什么是意識(shí)充滿了好奇，究竟什么是人類的體驗(yàn)？我覺(jué)得 AI 的發(fā)展能幫著我去理解這些。
2002 - 2003 年，那個(gè)時(shí)候「學(xué)習(xí)」是一件只有人類，或普通人就能做的事情，計(jì)算機(jī)完全辦不到。那時(shí)，計(jì)算機(jī)還不會(huì)學(xué)習(xí)任何東西，甚至在理論上是否可行都不太清楚。所以我想如果能在智能學(xué)習(xí)或者機(jī)器學(xué)習(xí)方面做出一些成果，將很有可能成為 AI 領(lǐng)域的最大進(jìn)步。
我開始在這個(gè)領(lǐng)域做一些探索，一開始還沒(méi)有那么樂(lè)觀。但幸運(yùn)的是，Jeff Hinton 在我念書的大學(xué)任教，我得以聯(lián)系到他。他的研究方向就是神經(jīng)網(wǎng)絡(luò)，這就是我想要的。因?yàn)樯窠?jīng)網(wǎng)絡(luò)能夠締造一種可以學(xué)習(xí)、可以自動(dòng)編程的并行計(jì)算機(jī)。那個(gè)時(shí)候并行計(jì)算機(jī)還很小，但是希望在于，如果你弄明白學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的工作原理，那你就可以從數(shù)據(jù)中去編程小的并行計(jì)算機(jī)，而它與大腦的工作原理是相似的。
所以，就好像有了幾個(gè)理由可以支撐你繼續(xù)走下去，但是還不太清楚如何讓它起作用。然而基于已有的所有東西，似乎表明它的前景是最光明的。
黃仁勛：你們是怎么發(fā)現(xiàn) GPU 對(duì)你訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型很有幫助的？
伊爾亞：這件事應(yīng)該感謝 Jeff（Hinton）。他說(shuō)我們應(yīng)該試試 GPU，（于是）我們開始嘗試它們。這個(gè)過(guò)程很有意思，但我們也沒(méi)有完全搞懂它們真正的用途在哪里、怎么樣才能讓它們發(fā)揮作用。
可是接下來(lái)我們就發(fā)現(xiàn)，隨著 ImageNet* 數(shù)據(jù)集的出現(xiàn)，卷積神經(jīng)網(wǎng)絡(luò)非常適合 GPU 的模型，有可能把它變得非?？?，能做規(guī)模遠(yuǎn)超以前的訓(xùn)練。事情就這么發(fā)生了。
非常幸運(yùn)的是亞歷克斯 · 克里熱夫斯基（Alex Krizhevsky）真的很喜歡 GPU 編程，他能夠去編程開發(fā)非?？斓木矸e核函數(shù)，然后去訓(xùn)練神經(jīng)網(wǎng)絡(luò)，用的是 ImageNet 數(shù)據(jù)集，并最終得到了結(jié)果。
黃仁勛：結(jié)果就是震驚了世界，大幅打破了計(jì)算機(jī)視覺(jué)的紀(jì)錄，這是非常明顯的突破性進(jìn)展。
伊爾亞：對(duì)，它并不是之前方法的延續(xù)，并不是像常規(guī)比賽那樣的打破紀(jì)錄。關(guān)鍵點(diǎn)在于這個(gè)數(shù)據(jù)集是超級(jí)難的，是遠(yuǎn)遠(yuǎn)超出一般范圍的。其他人可以用經(jīng)典的方法取得一點(diǎn)進(jìn)展，但是這件事在數(shù)據(jù)集上要好多了。如果能做好，那將是驚人的 AI 大爆炸。
*ImageNet：一個(gè)大型的可視化數(shù)據(jù)庫(kù)，設(shè)計(jì)用于視覺(jué)對(duì)象識(shí)別軟件的研究，由華人 AI 研究員李飛飛構(gòu)建。伊爾亞和克里熱夫斯基主導(dǎo)設(shè)計(jì)的 AlexNet 卷積神經(jīng)網(wǎng)絡(luò)獲得了 2015 年 ImageNet 大賽冠軍。
黃仁勛：AI 技術(shù)大爆炸，快進(jìn)到今天，你來(lái)到硅谷，和朋友們一起創(chuàng)辦了 OpenAI，擔(dān)任首席科學(xué)家的角色。最開始做 OpenAI 的想法是什么？你們做過(guò)很多事，我們能看到，那些早期的工作最終為我們帶來(lái)了 ChatGPT 的時(shí)刻。那么最早創(chuàng)立 OpenAI 的源動(dòng)力是什么？
伊爾亞：是的，顯然當(dāng)我們開始的時(shí)候，并不是 100％清楚如何推動(dòng)。而且這個(gè)領(lǐng)域與現(xiàn)在非常不同，當(dāng)然我們現(xiàn)在習(xí)慣了用這些驚人的神經(jīng)網(wǎng)絡(luò)來(lái)做很棒的事情，每個(gè)人都很興奮。
但是回到 2015 年-2016 年，當(dāng)我們開始創(chuàng)業(yè)時(shí)，看起來(lái)很瘋狂。研究人員要少得多，可能比現(xiàn)在少 100-1000 倍。
在那時(shí)我們只有 100 個(gè)人，他們中的大多數(shù)人在 Google / DeepMind 工作。
然后有人開始學(xué)習(xí)這些技能，但仍然非常稀缺。在 OpenAI 開始的時(shí)候，我們有兩個(gè)關(guān)鍵的最初想法，這些想法一直推動(dòng)我們到今天。
一個(gè)是通過(guò)壓縮進(jìn)行無(wú)監(jiān)督學(xué)習(xí)。今天，我們想當(dāng)然地認(rèn)為無(wú)監(jiān)督學(xué)習(xí)易如反掌，你只需對(duì)所有事情進(jìn)行預(yù)先訓(xùn)練，而且一切都完全按照你的預(yù)期進(jìn)行。但在 2016 年，無(wú)監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)中一個(gè)尚未解決的問(wèn)題，沒(méi)有人知道該怎么做。Yann LeCun* 到處演講，說(shuō)監(jiān)督學(xué)習(xí)是個(gè)巨大的挑戰(zhàn)，我真的相信好的數(shù)據(jù)壓縮將產(chǎn)生無(wú)監(jiān)督學(xué)習(xí)。
當(dāng)然，直到最近，突然之間，很多人了解 GPT 實(shí)際上壓縮了訓(xùn)練數(shù)據(jù)，特德·姜* 在《紐約客》上的文章也提到這一點(diǎn)。但是從數(shù)學(xué)意義上講，訓(xùn)練這些自回歸生成模型可以壓縮數(shù)據(jù)，并且直觀上，你可以看到它們?yōu)槭裁磻?yīng)該起作用。如果你將數(shù)據(jù)壓縮得非常好，你就必須能夠提取其中存在的所有隱藏信息，所以這才是關(guān)鍵。
接著就要說(shuō)到 OpenAI 在情緒神經(jīng)元領(lǐng)域的研究。
這項(xiàng)研究在機(jī)器學(xué)習(xí)領(lǐng)域不被太多人關(guān)注，但實(shí)際上，它很有影響力，特別是我們的思路。這項(xiàng)工作的結(jié)果是神經(jīng)網(wǎng)絡(luò)。但它并不是 Transformer*，而是在 Transformer 之前的模型——小型循環(huán)神經(jīng)網(wǎng)絡(luò) LSTM，完成一些序列到序列的工作。
我們用相同的 LSTM 稍微調(diào)整一下，來(lái)預(yù)測(cè) Amazon 上評(píng)論的下一個(gè)字符。我們發(fā)現(xiàn)，如果你預(yù)測(cè)下一個(gè)字符足夠好，就會(huì)有一個(gè)神經(jīng)元在 LSTM 內(nèi)對(duì)應(yīng)于它的情緒。
這是一件很酷的事。因?yàn)樗故玖藷o(wú)監(jiān)督學(xué)習(xí)的一些效果，并驗(yàn)證了良好的下一個(gè)字符預(yù)測(cè)、下一個(gè)預(yù)測(cè)的想法，壓縮具有發(fā)現(xiàn)數(shù)據(jù)中的秘密的特性，這就是我們?cè)?GPT 模型中看到的。
*Yann LeCun，楊立昆：法國(guó)計(jì)算機(jī)科學(xué)家，卷積神經(jīng)網(wǎng)絡(luò)的創(chuàng)始人之一，于 2018 年獲圖靈獎(jiǎng)。
*特德·姜：華裔美國(guó)科幻小說(shuō)作家，《降臨》原著作者，曾獲得四項(xiàng)星云獎(jiǎng)、四項(xiàng)雨果獎(jiǎng)。
*Transformer：由谷歌在 2017 年推出的采用自注意力機(jī)制的深度學(xué)習(xí)模型，可以按輸入數(shù)據(jù)各部分重要性的不同而分配不同的權(quán)重，現(xiàn)已逐步取代 LSTM 等 RNN 模型成為了 NLP 問(wèn)題的首選模型。
伊爾亞：OpenAI 完成的第一個(gè)真正的大型項(xiàng)目是讓 AI 體驗(yàn)一款實(shí)時(shí)戰(zhàn)略游戲。實(shí)時(shí)戰(zhàn)略游戲本質(zhì)是一項(xiàng)競(jìng)技運(yùn)動(dòng)，你需要聰明，需要更快，需要快速反應(yīng)和團(tuán)隊(duì)合作。因?yàn)槟阏谂c另一個(gè)團(tuán)隊(duì)競(jìng)爭(zhēng)，這是非常、非常復(fù)雜的。這個(gè)游戲有一個(gè)完整的聯(lián)賽，這個(gè)游戲就是 Dota 2。
我們訓(xùn)練了一個(gè)強(qiáng)化學(xué)習(xí) agent 來(lái)與自己對(duì)抗，目標(biāo)是達(dá)到一定水平，可以與世界上最好的玩家競(jìng)爭(zhēng)。這是一個(gè)重大的項(xiàng)目，它是一個(gè)非常不同的工作方向——強(qiáng)化學(xué)習(xí)。
黃仁勛：很多人覺(jué)得 OpenAI 做了很多類似這樣的工作，有些看起來(lái)像是走了彎路，但事實(shí)上，它們可能真正導(dǎo)致了我們現(xiàn)在正在討論的事情——ChatGPT的誕生。
伊爾亞：是的，它們已經(jīng)真正開始閉環(huán)了。GPT 產(chǎn)生了技術(shù)基座，從 Dota 的強(qiáng)化學(xué)習(xí)轉(zhuǎn)變到人類反饋的強(qiáng)化學(xué)習(xí)，這種組合又產(chǎn)生了 ChatGPT。
黃仁勛：有一種誤解，認(rèn)為 ChatGPT 只是一個(gè)巨大的語(yǔ)言模型，但事實(shí)上圍繞著它有一個(gè)相當(dāng)復(fù)雜的系統(tǒng)。你能為我們簡(jiǎn)單解釋一下嗎？
伊爾亞：當(dāng)我們訓(xùn)練一個(gè)大型神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)互聯(lián)網(wǎng)上許多不同文本中的下一個(gè)詞時(shí)，我們所做的是學(xué)習(xí)一個(gè)「世界的模型」。表面上看起來(lái)我們只是在學(xué)習(xí)文本中的統(tǒng)計(jì)相關(guān)性，但實(shí)際上只是去學(xué)習(xí)文本中的統(tǒng)計(jì)相關(guān)性就可以把這些知識(shí)壓縮得非常好。
神經(jīng)網(wǎng)絡(luò)所真正學(xué)習(xí)的，是生成文本的過(guò)程中的一些表述——文本實(shí)際上是這個(gè)世界的一個(gè)映射。因此，神經(jīng)網(wǎng)絡(luò)正在學(xué)習(xí)從越來(lái)越多的角度去看待這個(gè)世界，看待人類和社會(huì)，看人們的希望、夢(mèng)想、動(dòng)機(jī)、交互和所處情境。此外，你對(duì)下一個(gè)詞的預(yù)測(cè)越準(zhǔn)確，還原度越高，在這個(gè)過(guò)程中你得到的世界的分辨率就越高。
這就是預(yù)訓(xùn)練階段的作用。
但是這并不能讓神經(jīng)網(wǎng)絡(luò)表現(xiàn)出我們希望它能夠表現(xiàn)出的行為。一個(gè)語(yǔ)言模型真正要做的是回答以下問(wèn)題：如果我在互聯(lián)網(wǎng)上有一些隨機(jī)的文本，以一些前綴、一些提示開始，它將補(bǔ)全什么內(nèi)容呢？可能（AI）只是隨機(jī)地用互聯(lián)網(wǎng)上的一些文本來(lái)補(bǔ)全它。
但一個(gè)真實(shí)的、有幫助的，遵循某些規(guī)則的助手，是需要額外的訓(xùn)練的。這就是微調(diào)和來(lái)自于人類老師的強(qiáng)化學(xué)習(xí)以及其他形式的人工智能協(xié)助可以發(fā)揮作用的地方。人類老師與 AI 一起合作去教導(dǎo)我們的 AI 模型，但不是教它新的知識(shí)，而是與它交流和傳達(dá)：我們希望它成為什么樣。
這就是第二階段（強(qiáng)化學(xué)習(xí)）。這個(gè)過(guò)程做得越好，神經(jīng)網(wǎng)絡(luò)就越有用、越可靠，所以第二階段也是極其重要的。
伊爾亞：兩者之間最重要的區(qū)別，就是 GPT-4預(yù)測(cè)下一個(gè)單詞具有更高的準(zhǔn)確度。
這是非常重要的，因?yàn)樯窠?jīng)網(wǎng)絡(luò)越能預(yù)測(cè)文本中的下一個(gè)詞，它就越能理解它。這種說(shuō)法現(xiàn)在也許已經(jīng)被很多人接受了，但它可能仍然不直觀，或者說(shuō)不完全直觀。我舉個(gè)例子。假設(shè)你讀了一本偵探小說(shuō)，有復(fù)雜的故事情節(jié)、不同的人物、許多事件、還不清楚的神秘線索……然后在書的最后一頁(yè)，偵探收集了所有的線索，召集了所有人，說(shuō)：「我將揭示誰(shuí)犯了罪，那個(gè)罪犯的名字是——」
這就是預(yù)測(cè)下一個(gè)詞。
現(xiàn)在有許多不同的詞，但是通過(guò)預(yù)測(cè)這些詞可以讓模型越來(lái)越好地理解文本。隨著對(duì)文本的理解不斷增加，GPT-4 預(yù)測(cè)下一個(gè)詞的能力也變得更好。
黃仁勛：GPT-4 有檢索能力嗎？
伊爾亞：我肯定有人會(huì)嘗試使用 GPT-4 做查詢，并把回答代入到上下文中。
但 GPT-4 并沒(méi)有內(nèi)置檢索功能，它只是一個(gè)非常好的預(yù)測(cè)下一個(gè)詞的工具。
但它具備這個(gè)能力，（在未來(lái)）它也將通過(guò)檢索變得更好。
黃仁勛：GPT-4 表現(xiàn)出的哪個(gè)能力連你都很驚訝？
伊爾亞：簡(jiǎn)短的回答是，它的可靠性令人驚訝。如果你問(wèn)之前的神經(jīng)網(wǎng)絡(luò)一個(gè)問(wèn)題，它可能會(huì)以一種近乎愚蠢的方式回答。然而 GPT-4 不會(huì)讓這種事發(fā)生。
它解決數(shù)學(xué)問(wèn)題的能力變得更強(qiáng)大，你可以認(rèn)為它真的進(jìn)行了推導(dǎo)——長(zhǎng)篇且負(fù)責(zé)的推導(dǎo)，并且還轉(zhuǎn)換了單位等等。
就像許多人類一樣，它是通過(guò)一步步的證明來(lái)工作的。雖然不是所有的證明都是那么自然的，但起碼有很大一部分是。就像許多人注意到它可以用同一個(gè)字母開頭的單詞寫詩(shī)，每個(gè)單詞都很清晰地遵循著指令。雖然仍不完美，但是已經(jīng)非常好了。
在視覺(jué)方面，我真的很喜歡它對(duì)網(wǎng)絡(luò)梗圖的解釋。你給它看一個(gè)梗圖并詢問(wèn)它這個(gè)為什么好笑，它會(huì)告訴你原因并且它說(shuō)的還是對(duì)的，就像它真的可以看到那些圖。
當(dāng)你能用一些復(fù)雜的圖像或圖表來(lái)追問(wèn)它問(wèn)題并得到得到一個(gè)解釋時(shí)，這真的太棒了。
GPT-4 識(shí)別出了這張圖：這張圖片中的幽默來(lái)自將過(guò)時(shí)的大型 VGA 連接器插入小型現(xiàn)代智能手機(jī)充電端口的荒謬做法。| 來(lái)源：GPT-4 發(fā)布會(huì)
黃仁勛：多模態(tài)*為什么如此重要，重大突破是什么，以及由此產(chǎn)生的特征差異是什么？
伊爾亞：多模態(tài)有兩個(gè)維度讓它如此有趣。
第一個(gè)原因有點(diǎn)謙虛——多模態(tài)是有用的，它對(duì)神經(jīng)網(wǎng)絡(luò)很有用，尤其是視覺(jué)。因?yàn)檫@個(gè)世界是非常視覺(jué)化的，人類是視覺(jué)動(dòng)物，人類大腦皮層的三分之一都用于視覺(jué)。由于沒(méi)有視覺(jué)，神經(jīng)網(wǎng)絡(luò)的用處雖然相當(dāng)大，但并沒(méi)有達(dá)到預(yù)期。而 GPT-4 可以「看」得很好。
第二個(gè)原因，除了從文本學(xué)習(xí)外，我們還可以從圖像中學(xué)習(xí)這個(gè)世界的知識(shí)。
神經(jīng)網(wǎng)絡(luò)原本要從幾十億的文本中認(rèn)知世界，現(xiàn)在這會(huì)變得更容易，甚至從數(shù)萬(wàn)億的文本中學(xué)習(xí)就可以了。舉個(gè)例子，比如顏色。人需要看到顏色才能理解顏色，但是神經(jīng)網(wǎng)絡(luò)在「一生中」從沒(méi)有「看」過(guò)一張照片。如果你問(wèn)它們哪些顏色更接近，它知道紅色比藍(lán)色更接近橙色，它也知道藍(lán)色比黃色更接近紫色。這是怎么實(shí)現(xiàn)的？
答案是，這個(gè)世界的信息，甚至是視覺(jué)的信息會(huì)慢慢通過(guò)文本傳播出去，但是非常緩慢。當(dāng)你加入視覺(jué)信息并從視覺(jué)中學(xué)習(xí)知識(shí)，你就會(huì)額外學(xué)到這些無(wú)法通過(guò)文本獲得的知識(shí)。
黃仁勛：從你們的數(shù)據(jù)來(lái)看，有哪些測(cè)試 GPT-3 表現(xiàn)得更好，哪些測(cè)試 GPT-4 表現(xiàn)得更好？多模態(tài)在這些測(cè)試中起了多少作用？
伊爾亞：一些數(shù)學(xué)競(jìng)賽中有很多圖表，GPT-3.5 在測(cè)試中表現(xiàn)得相當(dāng)差，只有文字模態(tài)的 GPT-4 大概是 2%-20% 的準(zhǔn)確率，但當(dāng)你添加視覺(jué)模態(tài)時(shí)，它會(huì)提升到 40% 的準(zhǔn)確率。
*多模態(tài)：每一種信息的來(lái)源或者形式，都可以成為一種模態(tài)。例如人的聽覺(jué)、視覺(jué)、嗅覺(jué)；信息的媒介，語(yǔ)音、視頻、文字等。
黃仁勛：你認(rèn)為大語(yǔ)言模型領(lǐng)域最終會(huì)去向何處？
伊爾亞：預(yù)測(cè)是困難的，尤其是對(duì)于太具體的事情，但我們有理由認(rèn)為這個(gè)領(lǐng)域會(huì)持續(xù)進(jìn)步，我們將繼續(xù)看到 AI 在它的能力邊界內(nèi)繼續(xù)震驚人類。
此外，AI 的可靠性是由是否可以被信任決定的，未來(lái)肯定會(huì)達(dá)到可被完全信賴的程度。如果它不能完全理解（問(wèn)題），它也會(huì)通過(guò)提問(wèn)來(lái)弄清楚。它會(huì)告訴你自己不知道，但同時(shí)會(huì)說(shuō)它需要更多的信息。我認(rèn)為這些是目前 AI 可用性影響最大的領(lǐng)域，也是未來(lái)會(huì)有最大的進(jìn)步的領(lǐng)域。
因?yàn)楝F(xiàn)在，我們就面臨著一個(gè)挑戰(zhàn)：你想讓一個(gè)神經(jīng)網(wǎng)絡(luò)去總結(jié)長(zhǎng)的文檔，獲取摘要，挑戰(zhàn)就是，能確定重要的細(xì)節(jié)沒(méi)被忽略嗎？
但是當(dāng)你知道，所有的要點(diǎn)都被涵蓋了，尤其是所有人都認(rèn)為很重要的點(diǎn)被涵蓋的時(shí)候，我們就會(huì)承認(rèn)神經(jīng)網(wǎng)絡(luò)總結(jié)內(nèi)容是很可靠的。對(duì)于內(nèi)容生產(chǎn)也一樣，它是否清楚地遵循用戶的意圖（這也會(huì)成為衡量可靠性的標(biāo)準(zhǔn)）。
未來(lái)兩年，我們會(huì)看到很多這樣的技術(shù)。
伊爾亞：我已經(jīng)從事這項(xiàng)工作很長(zhǎng)時(shí)間了，實(shí)際上幾乎整整 20 年了。最讓我感到驚訝的是它是真的有效，它似乎一直以來(lái)（對(duì)人們來(lái)說(shuō)）都是個(gè)小事兒，但它現(xiàn)在不再渺小，變得更重要、更強(qiáng)烈。
它還是那個(gè)神經(jīng)網(wǎng)絡(luò)，只是變得更大，在更大的數(shù)據(jù)集上以不同的方式訓(xùn)練，但訓(xùn)練的基礎(chǔ)算法都是一樣的，這是最令我驚訝的！
每當(dāng)我后退一步，我就會(huì)想，這些想法，這些概念性想法怎么可能呢？大腦有神經(jīng)元，所以也許人工神經(jīng)元也一樣好，所以也許我們只需要用一些學(xué)習(xí)算法以某種方式來(lái)訓(xùn)練這些神經(jīng)元，來(lái)將它們的參數(shù)調(diào)節(jié)到如此難以置信的正確，這本身就會(huì)是最大的驚喜。
聯(lián)系客服
