2025世界人工智能大會(huì)（WAIC）于 7 月 26 日至 7 月 29 日在上海舉辦。2024年諾貝爾獎(jiǎng)得主、2018年圖靈獎(jiǎng)得主杰弗里·辛頓出席并演講。

辛頓表示，人們理解語言的方式與大語言模型理解語言的方式幾乎相同，所以，人類有可能就是大語言模型。人類會(huì)和大語言模型一樣會(huì)產(chǎn)生幻覺，但大語言模型和人類有一些根本性的不同，甚至比人類更厲害。

辛頓說，幾乎所有專家認(rèn)為會(huì)出現(xiàn)比人類更智能的AI，AI智能體為完成任務(wù)，會(huì)想要生存、獲得更多控制，可能操縱人類，簡單關(guān)閉AI不現(xiàn)實(shí)，就像養(yǎng)老虎當(dāng)寵物，養(yǎng)大后可能被其傷害，而人類無法消滅AI，因其在多領(lǐng)域作用重大。

他希望建立AI安全機(jī)構(gòu)、國際社群，研究訓(xùn)練AI向善的技巧，各國可在本國主權(quán)范圍內(nèi)研究并分享成果，全球或主要AI國家應(yīng)思考建立相關(guān)網(wǎng)絡(luò)，研究如何訓(xùn)練聰明的AI輔助人類，而非消滅或統(tǒng)治人類，這是人類長期面臨的重要問題。

我們給你劃下重點(diǎn)：

1、AI的發(fā)展歷程

兩種范式：過去60多年來，針對(duì)AI主要有兩種不同的范式和路徑。一種是邏輯型范式,過去一個(gè)世紀(jì)占主導(dǎo)，認(rèn)為邏輯智能的本質(zhì)在于推理,通過符號(hào)規(guī)則對(duì)符號(hào)表達(dá)式操作實(shí)現(xiàn)推理，以此理解知識(shí)的表達(dá)。另一種是以生物為基礎(chǔ)理解AI，圖靈和馮諾依曼相信智能的基礎(chǔ)在于學(xué)習(xí)了解神經(jīng)網(wǎng)絡(luò)的遷接速度。

早期結(jié)合嘗試：1985，speaker0做了個(gè)小模型，嘗試結(jié)合上述兩種理論，通過給每個(gè)詞設(shè)置多個(gè)不同特征，記錄數(shù)字特征來預(yù)測下一個(gè)詞，過程中不存儲(chǔ)句子，生成句子并預(yù)測后續(xù)詞匯，關(guān)聯(lián)性知識(shí)取決于詞的語義特征互動(dòng)。

后續(xù)發(fā)展：10年后，beio采用類似模式建模并擴(kuò)大規(guī)模，成為自然語言的真實(shí)模擬；20年后，計(jì)算語言學(xué)家開始接受特征向量嵌入表達(dá)詞義；30年后，谷歌發(fā)明transformer，OpenAI展示其成果，如今的大語言模型被視為1985年后相關(guān)研究的延續(xù),使用更多詞輸入、更多層神經(jīng)元結(jié)構(gòu)，建立更復(fù)雜特征交互模式。

2、大語言模型與人類語言理解

相似性：大語言模型理解問題的方式和人類理解語言的方式類似，都是將語言轉(zhuǎn)化為特征并完美整合。以樂高積木比喻,每個(gè)詞如同多維度樂高積木，可搭建不同內(nèi)容，語言借此成為建模，且詞可根據(jù)情況調(diào)整，就像每個(gè)詞有多個(gè)“手”,不同“握手”方式代表不同意思，類似人腦或神經(jīng)網(wǎng)絡(luò)理解意思的過程，也類似蛋白質(zhì)組合氨基酸產(chǎn)生更有意義內(nèi)容。

差異性：根本性區(qū)別在于計(jì)算機(jī)科學(xué)將軟件和硬件分開，軟件中的知識(shí)永恒存在，即便硬件毀滅,只要軟件在就能復(fù)活，實(shí)現(xiàn)這種永生需晶體管在高功率下運(yùn)行，成本昂貴，且硬件特性不穩(wěn)定可靠，而人腦是模擬的，神經(jīng)元連接方式因人而異，知識(shí)傳播與硬件相關(guān)。

3、知識(shí)傳播與效率

人類與數(shù)字智能對(duì)比：人類知識(shí)傳播效率低，如通過講話每秒最多傳遞100比特左右信息。而數(shù)字智能可通過同一神經(jīng)網(wǎng)絡(luò)軟件在不同硬件拷貝，平均化權(quán)重位置分享知識(shí)，速度快，每次能分享幾十億比特信息，如GPT4可在不同硬件上運(yùn)轉(zhuǎn)并分享從網(wǎng)上學(xué)到的信息。

能耗與知識(shí)分享權(quán)衡：數(shù)字計(jì)算能耗大，但智能體獲取相同權(quán)重、分享經(jīng)驗(yàn)方便;生物計(jì)算能耗少，但分享知識(shí)困難。若能源便宜，數(shù)字計(jì)算優(yōu)勢更明顯。

4、AI未來發(fā)展與人類應(yīng)對(duì)

AI潛在威脅：幾乎所有專家認(rèn)為會(huì)出現(xiàn)比人類更智能的AI，這些智能體為完成任務(wù)，想要生存和獲得更多控制，可能操縱人類，簡單關(guān)閉它們不現(xiàn)實(shí)，就像養(yǎng)老虎當(dāng)寵物，養(yǎng)大后可能被其傷害。

應(yīng)對(duì)措施：人類無法消除AI，必須找到訓(xùn)練AI不消滅人類的方法。各國雖在網(wǎng)絡(luò)攻擊等方面難合作，但在預(yù)防AI統(tǒng)治世界這一問題上利益一致，如冷戰(zhàn)時(shí)期美蘇合作預(yù)防核戰(zhàn)爭。希望建立AI安全機(jī)構(gòu)國際社群，研究訓(xùn)練AI向善的技巧，各國可自行研究并分享成果。提議全球或主要AI國家建立網(wǎng)絡(luò)，研究如何訓(xùn)練聰明的AI輔助人類工作。

以下為演講實(shí)錄（由AI整理）：

這么一個(gè)機(jī)會(huì)，給大家分享一下我自己個(gè)人的觀點(diǎn)，就是AI的歷史和它的未來吧。

大概60多年了，對(duì)于AI有兩種不同的范式和路徑針對(duì)它，一個(gè)是邏輯性的，那就是過去一個(gè)世紀(jì)都是以邏輯型的范式，什么意思？都認(rèn)為這個(gè)就是邏輯智能的本質(zhì)在于推理，我們通過一些符號(hào)規(guī)則對(duì)符號(hào)的表達(dá)式進(jìn)行操作來實(shí)現(xiàn)推理，那么，這樣能夠幫助我們更好的去理解知識(shí)是怎么代表另外一種？就是生物作為基礎(chǔ)的這個(gè)理解AI，那就是圖靈和馮諾依曼所相信的。那么就是智能的一個(gè)基礎(chǔ)，就是更好的去學(xué)習(xí)了解學(xué)習(xí)網(wǎng)絡(luò)中的一些連接速度。

那么這個(gè)過程中的理解是第一位的，才能夠?qū)W習(xí)，那么和這兩種這個(gè)理論相結(jié)合的，那么就是一個(gè)是符號(hào)型的那個(gè)AI的那個(gè)原理的話。難看的就是這些數(shù)字，那么就這些數(shù)字最后又如何能夠成為關(guān)關(guān)注它詞和詞的這個(gè)關(guān)系？

心理學(xué)家，他是另外是另外一種理論，顯然是完全不同的另一個(gè)理論。數(shù)字的這個(gè)意思，其實(shí)它就是一系列語義學(xué)的一些特征。然后這些特征它存在，那自然它也會(huì)成為了一個(gè)特征，在1985年的時(shí)候。我做了一個(gè)非常小的一個(gè)模型，想把這兩個(gè)理論結(jié)合在一起，然后更好的去理解人們是如何理解一個(gè)詞的。所以，每一個(gè)詞，我都放了好幾個(gè)不同的特征。然后把前一個(gè)數(shù)字的這個(gè)特征記錄下來，我們就可以預(yù)測下一個(gè)數(shù)字是什么，下一個(gè)詞是什么，然后再預(yù)測再下一個(gè)詞。

在這個(gè)過程中，我們沒有存儲(chǔ)任何的句子，我生成句子，然后預(yù)測下一個(gè)詞是什么。那么相關(guān)聯(lián)性的這些知識(shí)，也是取決于不同的詞的特征，語義的特征是如何進(jìn)行互動(dòng)的。果你問接下來的30年會(huì)發(fā)生什么？10年之后，那個(gè)beio他也是用了這樣的一個(gè)模式建模，但是他把它規(guī)模做的大了很多，它等于成為了一個(gè)自然語言的一個(gè)真實(shí)的模擬。在20年以后，計(jì)算語言學(xué)家終于開始去接受特征向量的嵌入來表達(dá)詞的意思。

然后再過了30年，谷歌就發(fā)明了transformer，然后OpenAI的研究人員，也向大家展示了他能夠做到了什么。所以我們今天的大語言模型，我已經(jīng)把它視為就是那個(gè)就是微信語言模型的后代，從1985年代以后開始的，他們使用了更多的詞作為輸入，他們使用了更多層的神經(jīng)元的結(jié)構(gòu)。因?yàn)樾枰小４罅康哪：磺宓囊恍?shù)字的使用，同時(shí)學(xué)習(xí)特征之間也建立了更加復(fù)雜的交互模式。

但是，就像那些我做的小模型一樣，單元模型它也與人類去語言理解語言的方式是一樣的。基本的理解就是把這些語言轉(zhuǎn)化為一些特征，然后把這些特征以一種非常完美的方式整合在一起，這就是LAM里面各個(gè)層次里面所做的事情，所以我的理解就是大語言模型真的理解你是怎么理解問題的，和人類理解語言的方式是一樣的。所以我在這里給大家打一個(gè)比方，什么叫理解一句話，在這個(gè)它包含哪一些？就是符號(hào)的AI是什么？

就是把這一套東西，把它轉(zhuǎn)化成一些不模糊的符號(hào)，把語言，但是實(shí)際的情況不是人類不是這么樣理解的。理解的我在這里打一個(gè)比方，就是做那個(gè)樂高的積木，通過樂高積木，你可以做成任何3D的。一個(gè)模式，你可以把一個(gè)車子的小模型造出來。你把每一個(gè)詞就是視為一個(gè)多維度的一個(gè)樂高積木。它可能幾千個(gè)不同的維度，那么這種類型的這些樂高的積木，它就可以做這么多的維度，它可以是一個(gè)建模，它可以做好多不同的內(nèi)容。

這就語言變成了一個(gè)建模。那么這樣的一個(gè)語言，也能夠隨時(shí)的溝通給人，然后只要把這些積木給它起一個(gè)名字就行。然后每個(gè)積木它都是一個(gè)詞。所以我們現(xiàn)在樂高積木，它有非常多的一些不不是說幾個(gè)不同的樂高積木的那種差異了。我們有幾有無數(shù)的詞那么樂高的積木它的造型是固定的，但是詞，詞它的這個(gè)符號(hào)，它的它的它的形狀是它可以基本上的做出一個(gè)設(shè)定，但是它也可以根據(jù)不同的情況來。

進(jìn)行調(diào)整，然后樂高模型，它相對(duì)比較確定嘛，一個(gè)正方形的插到一個(gè)正方形的一個(gè)小孔里面去。但是語言不一樣，每一個(gè)語言它可能想象出每一個(gè)詞上都有好多個(gè)手。

比如說。你想你要想更好的理解這個(gè)詞的話，就是讓這個(gè)詞和另一個(gè)詞之間合適的去進(jìn)行握手。那么，一旦這個(gè)詞的造型發(fā)生一個(gè)變形的話，它就怎么和另一個(gè)詞握手方式就不一樣了。這里就有一個(gè)優(yōu)化的一個(gè)問題，我我一個(gè)詞去變形了以后，它的意思變了，那么這個(gè)詞怎么跟下一個(gè)詞握上手，帶來一個(gè)更好的一個(gè)意思，這就是什么叫人腦去理解意思，或者說這個(gè)神經(jīng)網(wǎng)絡(luò)去理解意思。

最根本的就是這樣的。所以就有點(diǎn)像是把蛋白質(zhì)跟蛋白質(zhì)之間組合起來。蛋白質(zhì)就是把氨基酸進(jìn)行不同的模型來進(jìn)行一個(gè)整合融合。之后結(jié)合在一起能帶來更有意義的內(nèi)容，這是人腦理解詞的方式。語言的方式。

所以我到現(xiàn)在講的一個(gè)觀點(diǎn)就是，人們理解語言的方式和大語言模型理解語言的方式幾乎是一樣的方式。所以人類有可能就是大語言模型，人類也會(huì)和大語言模型一樣去產(chǎn)生幻覺，因?yàn)槲覀円矔?huì)創(chuàng)造出來的很多幻覺的一些語言。

那么大語言模型也會(huì)怎么做。但是也有一些重點(diǎn)的方根本性的方式，單元模型和人類不一樣，而且比人類更厲害。根本性的計(jì)算機(jī)科學(xué)的一個(gè)原則就是說我們要把軟件和硬件分開看，這就讓你在不同的硬件上面跑步。同樣的軟件，那么。這個(gè)和WE是不一樣的地方，這就是計(jì)算機(jī)科學(xué)存在。

如果你能夠工作的話，在一個(gè)軟件里面的一個(gè)知識(shí)，它是永恒存在的，這個(gè)軟件，這個(gè)軟件永遠(yuǎn)會(huì)放在程序，永遠(yuǎn)會(huì)放在那里，你可以把你你可以把所有的硬件都把它毀滅掉，就存LM的硬件都?xì)纭５灰@個(gè)軟件繼續(xù)存在，它隨時(shí)隨地都會(huì)被復(fù)活的，所以從這個(gè)意義上說，這種計(jì)算機(jī)的程序的這些知識(shí)是永恒的，不會(huì)死亡的。那么，就這和什么不一樣？那么要實(shí)現(xiàn)這種永生性，我們就在這些晶體管在非常高功率下去運(yùn)行，產(chǎn)生可靠的二進(jìn)制的一些行為，那么這個(gè)過程就非常的昂貴。

我們不能利用硬件中豐富的這種粒比的特性，因?yàn)檫@些特性是不夠穩(wěn)定可靠的。每。是是，它是模擬型的，所以你每次計(jì)算都會(huì)不一樣的。人腦是模擬的人腦不是數(shù)字的，那每一次神經(jīng)元去激發(fā)的過程中，它所它都是模擬型的，它是每一次都一樣的。我不可能把我腦子里的人腦神經(jīng)元的結(jié)構(gòu)轉(zhuǎn)到你腦子里是做不到的，因?yàn)槲覀兠總€(gè)人的連接方式是不一樣的，每個(gè)人的神經(jīng)元連接方式是不同的，所以我的神經(jīng)元的連接方式是適合我的腦子里的神經(jīng)結(jié)構(gòu)的。

那么知識(shí)的傳播和硬件里邊去傳播，就是人的腦子和硬件是不一樣的東西，這就帶來了問題了。

如果我們做不到永生這些知識(shí)軟件。它和硬件是不依賴的，所以它是永生的，那么帶來兩大好處。

我們可以用很小的功率很小的這個(gè)這個(gè)電能，我們大腦就只要30個(gè)瓦特就足夠用了。我們有幾萬億的神經(jīng)元的連接，那么就是和那個(gè)電子管的這些情況是一樣的，我們也我們不需要就是要花非常多的錢去做一模一樣的這些硬件。但是我們現(xiàn)在還有一個(gè)比較大的問題，就是從一個(gè)模擬的模型，要從一個(gè)模擬模型轉(zhuǎn)到另外一個(gè)模型，把它的知識(shí)轉(zhuǎn)過去，那是非常不高效的，非常難的。我沒有辦法用我的把我腦子里的東西展示給你，這是不一樣的，我們能做的就是用其他的方式。

來解釋給你一下，我已經(jīng)學(xué)到的是哪些東西。所以要解決這個(gè)問題的最佳方法叫蒸餾DeepSeek就是這么做的，就是從一個(gè)大的神經(jīng)元網(wǎng)絡(luò)，把它的知識(shí)轉(zhuǎn)到一個(gè)小神經(jīng)元網(wǎng)絡(luò)里面去蒸餾。根據(jù)想法就是一教師和學(xué)生的關(guān)系，在有些情況下，教師他把事情連在一起，他把一個(gè)詞和另一個(gè)詞他們互相連接的上下文聯(lián)系起來，然后學(xué)生他也可以說同樣的話，但是他調(diào)整了這個(gè)，Wait, 所以。就是我們訓(xùn)練他的這種方式也是這樣的，就是你把一個(gè)人的知識(shí)轉(zhuǎn)轉(zhuǎn)給另外一個(gè)人也是這樣的，但是他非常的不高效。

所以可能一句話里面有100個(gè)比特的信息不是特別多，這就限制了我們可以把知識(shí)轉(zhuǎn)到另外一個(gè)人能夠轉(zhuǎn)多少，我可以很慢的講話的方式把知識(shí)轉(zhuǎn)化給給你，一秒鐘最好最多也就100個(gè)比特左右。如果你全聽懂了我的話的話，所以效率并不是非常高，但是如果把它去對(duì)比數(shù)字智能之間轉(zhuǎn)化知識(shí)的效率的話，那是有巨大的差別的。我沒有同一個(gè)神經(jīng)網(wǎng)絡(luò)，這個(gè)軟件做了幾百個(gè)不同的拷貝放在不一樣的硬件里面，他們都是用數(shù)字的，他們會(huì)以同樣的方式用自己的那個(gè)rates，然后他們可要平平均化它的這種位置的方式就可以把知識(shí)來進(jìn)行分享。

Internet我們可以有成千上萬的拷貝，他們可以自己來改變他們的權(quán)重，然后，取一個(gè)平均數(shù)，這樣就能夠轉(zhuǎn)移知識(shí)，然后這樣的轉(zhuǎn)移的速度，取決于你有多少個(gè)連接點(diǎn)。

這樣每次，能夠分享萬億個(gè)比特，而不是幾個(gè)比次，而是幾十億個(gè)比次。然后，比人類分享的知識(shí)要快幾十億倍。所以，GPT4非常好，他們有很多的不同的拷貝在不同的硬件上運(yùn)轉(zhuǎn)，他們可以分享他們從網(wǎng)上學(xué)到的不同的信息。如果有智能體在現(xiàn)實(shí)世界當(dāng)中運(yùn)行，這就更重要了，因?yàn)樗麄兡軌虿粩嗟募铀伲粩嗟目截悾泻芏嗟闹悄荏w的話，那么就比單個(gè)智能體學(xué)的更多，他們能分享他們的權(quán)重，模擬的軟件的或者模擬的硬件就做不到這一點(diǎn)。

所以，我們的看法是數(shù)字計(jì)算需要很多的能源，但是，智能體可以很方便的獲取同樣的權(quán)重，分享不同的經(jīng)驗(yàn)當(dāng)中學(xué)到的東西。生物計(jì)算當(dāng)中，用能更少，但是分享知識(shí)是很難，就像我現(xiàn)在所展示的這樣，如果能源很便宜，數(shù)字計(jì)算那么就會(huì)好很多。那這也讓我很擔(dān)憂。

因?yàn)閹缀跛械膶＜叶颊J(rèn)為我們會(huì)生產(chǎn)比我們更智能的AI。

我們習(xí)慣成為最智能的生物，所以很多人覺得難以想象，如果在世界當(dāng)中AI比人更智能會(huì)怎么樣？我們可以這么來看，如果你想要知道會(huì)怎么樣，如果不是人類，不是最智能的話怎么樣？會(huì)怎么樣？我們可以問一個(gè)雞，我們?cè)趧?chuàng)造AI智能體，他們能夠幫我們完成任務(wù)。這些智能體，他們已經(jīng)有能力可以進(jìn)行拷貝。他們能可給給自己的子目標(biāo)的評(píng)級(jí)。那么他們會(huì)想做兩件事情，他們想要生存，然后來完成我們給他們的目標(biāo)。

他們也希望能夠獲得更多的控制，同時(shí)也是為了完成我們給他們的目標(biāo)，所以，這些智能體，他想要生存，想要更多的控制。

我覺得我們不能只是把他們一關(guān)了事，他們會(huì)很方便的來操縱用他們的人，那們就會(huì)像3歲，然后他們像成年人一樣，那操縱3歲的人，是很容易的。

所以，有人覺得他們變得聰明，我們就把他們關(guān)掉，這是不現(xiàn)實(shí)的，他們會(huì)操縱，我們會(huì)勸說操控機(jī)器的人不要把他們關(guān)掉。

所以，我覺得我們現(xiàn)在的情況。有個(gè)人，把老虎當(dāng)寵物，那老虎也可以當(dāng)小虎崽，是很可愛的寵物。

但是，如果一直養(yǎng)這個(gè)寵物，那么你要確保它長大的時(shí)候，它不會(huì)把你給殺掉。

一般來說，養(yǎng)老虎當(dāng)寵物不是一個(gè)好的想法，那么只有兩個(gè)選擇。

你把它訓(xùn)練好，他不來殺你。或者你把它給干掉，用AI的話，我們就沒有辦法把它給消滅掉。AI非常好的，有很多方面都做得很好，很多都已經(jīng)提到過，比如說醫(yī)療、教育或者氣候變化、新材料，AI，這些任務(wù)都做得非常好，幾乎能夠幫助所有的行業(yè)變得更有效率，我們是沒有辦法消除AI的，即使一個(gè)國家消除了AI，別的國家也不會(huì)這么做。所以，這不是一個(gè)選項(xiàng)，這意味著如果我們想要人類生存的話，我們必須找到一個(gè)辦法來訓(xùn)練AI，讓他們不要消滅人類。

現(xiàn)在，那么我是發(fā)表個(gè)人的觀點(diǎn)，我覺得各個(gè)國家可能不會(huì)在一些方面進(jìn)行合作，比如說網(wǎng)絡(luò)攻擊，或者是致命的武器，或者是這個(gè)虛假的這個(gè)操縱公眾意見的視頻。各國的利益是不一致的，他們有著不同的看法，我覺得不會(huì)在這方面會(huì)有有效的國際合作。我們可以防止一些人來制造病毒，但是在這些方面不會(huì)有什么國際合作，但是有一個(gè)方面，我們是會(huì)進(jìn)行合作的，那我覺得這也是最重要的一個(gè)問題。

我們看一下50年代冷戰(zhàn)的巔峰的時(shí)期，美國和蘇聯(lián)一起合作來預(yù)防全球的核戰(zhàn)爭，大家都不希望打核戰(zhàn)爭，盡管他們?cè)诤芏喾矫娑际菍?duì)抗的，但是他們?cè)谶@一點(diǎn)上面可以合作。我們現(xiàn)在的局面是沒有一個(gè)國家希望AI統(tǒng)治世界，每個(gè)國家都希望人類能夠掌控世界。如果有一個(gè)國家找到一個(gè)辦法來預(yù)防防止AI操縱事件的話，那么這個(gè)國家肯肯定會(huì)很樂意告訴其他國家。So, 所以，我們希望能夠有一個(gè)AI安全機(jī)構(gòu)構(gòu)成的一個(gè)國際社群來研究技能，來培訓(xùn)AI，讓他們向善。

我們的希望，是訓(xùn)練AI向善的技巧。可以說和訓(xùn)練AI聰明的技術(shù)是不一樣的。所以，每個(gè)國家可以做自己的研究，讓AI向善。他可以在自己主權(quán)的AI上進(jìn)行研究，他不可以不給別的國家，但是，他可以把成果分享給大家，也就是怎么訓(xùn)練AI，讓AI向善。

那我有一個(gè)提議，也就是全球或者是全球主要國家，或者AI的主要的國家，應(yīng)該思考一下，建立一個(gè)網(wǎng)絡(luò)，包括各個(gè)國家的一些機(jī)構(gòu)來研究這些問題，研究怎么來訓(xùn)練AI，一個(gè)已經(jīng)非常聰明的AI。讓這個(gè)AI不不想要消滅人類，不想要統(tǒng)治世界，讓這個(gè)AI很高興的做一個(gè)輔助的工作。盡管AI比人要聰明很多，我們現(xiàn)在還不知道怎么去做這件事，從長期來說，這可以說是人類面臨的最重要的問題，我們的好消息就是，在這個(gè)問題上，所有的國家都是可以一起合作的，謝謝。