2022年底，一款功能強(qiáng)大的AI語(yǔ)言模型ChatGPT橫空出世，成為全球熱議話題。

【資料圖】

人工智能技術(shù)的最新進(jìn)展讓人們驚嘆的同時(shí)，也讓“機(jī)器取代人腦”“人工智能的威脅與監(jiān)管”等問(wèn)題再度成為焦點(diǎn)。

2023年4月29日在Frontiers論壇上，《人類簡(jiǎn)史》《未來(lái)簡(jiǎn)史》《今日簡(jiǎn)史》的作者尤瓦爾·赫拉利也發(fā)表了關(guān)于人工智能與人類的未來(lái)主題演講，提出了他的看法。

他認(rèn)為，人工智能正在以超過(guò)人類平均水平的能力掌握語(yǔ)言。而通過(guò)掌握語(yǔ)言，人工智能正在掌握入侵人類文明系統(tǒng)的鑰匙。

人工智能對(duì)我們的威脅，可能比想象的更嚴(yán)重。

今天，阿信經(jīng)過(guò)尤瓦爾·赫拉利團(tuán)隊(duì)的授權(quán)，將演講全文整理分享給大家，也希望各位可以多花一點(diǎn)時(shí)間或者更多的時(shí)間來(lái)思考這個(gè)問(wèn)題。

演 講 全 文

是的，今天我想和大家談的是人工智能和人類的未來(lái)。

我知道這次會(huì)議的重點(diǎn)是人類正面臨的生態(tài)危機(jī)，而人工智能無(wú)論好壞都是這場(chǎng)危機(jī)的一部分。人工智能可以在很多方面幫助我們解決生態(tài)危機(jī)，但也可以加劇危機(jī)。

事實(shí)上，人工智能可能會(huì)改變生態(tài)系統(tǒng)的意義。因?yàn)椋?0億年以來(lái)地球的生態(tài)系統(tǒng)只包含有機(jī)生命形式，而現(xiàn)在或不久的將來(lái)我們可能會(huì)看到第一批無(wú)機(jī)生命形式的出現(xiàn)，或至少是無(wú)機(jī)媒介的出現(xiàn)。

自二十世紀(jì)中葉計(jì)算機(jī)時(shí)代開(kāi)始，人們始終對(duì)人工智能懷有恐懼，這種恐懼激發(fā)了許多經(jīng)典科幻作品的誕生，如《終結(jié)者》《黑客帝國(guó)》等。

雖然這類科幻場(chǎng)景已經(jīng)成為文化符號(hào)，但它們通常不會(huì)在學(xué)術(shù)、科學(xué)和政治辯論中被嚴(yán)肅對(duì)待。這也是可以理解的，因?yàn)榭苹米髌芬话銜?huì)作這樣的假設(shè)：人工智能構(gòu)成對(duì)人類的重大威脅之前，它必須躍過(guò)兩個(gè)重要的里程碑——

首先，人工智能必須變得有知覺(jué)，發(fā)展出意識(shí)、感覺(jué)和情感，否則它為什么想要接管世界；其次，人工智能必須適應(yīng)在物理世界中給自己定位，機(jī)器人必須能夠像人一樣高效地在房屋、城市、山脈和森林中移動(dòng)和運(yùn)轉(zhuǎn)，如果他們無(wú)法在物理世界中移動(dòng)，那怎么可能接管這個(gè)世界？

在2023年4月之前，人工智能似乎還遠(yuǎn)遠(yuǎn)沒(méi)有到達(dá)這兩個(gè)里程碑，盡管人們圍繞ChatGPT和其他新的人工智能工具進(jìn)行了大肆宣傳，但沒(méi)有證據(jù)表明這些工具有一絲意識(shí)、感覺(jué)或情感。至于在物理世界中活動(dòng)，雖然自動(dòng)駕駛技術(shù)一直算熱門話題，但汽車主宰人類道路的時(shí)間仍一直在推遲。

然而，壞消息是人工智能要威脅人類文明的生存，并不真正需要意識(shí)，也不需要在物理世界中移動(dòng)的能力。在過(guò)去的幾年里，新的人工智能工具被運(yùn)用到公共領(lǐng)域，可能會(huì)從一個(gè)非常意想不到的方向威脅到人類文明的生存。我們甚至很難理解這些新型人工智能工具的能力，以及它們持續(xù)發(fā)展的速度。

事實(shí)上，因?yàn)槿斯ぶ悄苣軌蜃晕覍W(xué)習(xí)并自我改進(jìn)，即使是這些工具的開(kāi)發(fā)者也不知道他們所創(chuàng)造的東西的全部功能，他們自己也經(jīng)常對(duì)這些工具的新能力和高品質(zhì)感到驚訝。

我想在座的每個(gè)人都已經(jīng)了解新型人工智能工具一些最基本的能力，像寫作、繪畫、作曲和編寫代碼等能力。但還有許多其他功能正在涌現(xiàn)，比如深度偽造人們的聲音和圖像，起草法案，找出計(jì)算機(jī)代碼、合同和法律文書中的漏洞。但也許最重要的是，新的人工智能工具有能夠與人類建立深厚而親密的關(guān)系的能力。

這些能力中的每一項(xiàng)都值得充分討論，我們很難理解它們的全部含義，所以把這個(gè)問(wèn)題簡(jiǎn)單化。如果把所有這些能力當(dāng)作一個(gè)整體，就可以總結(jié)為一個(gè)非常非常大的東西——操縱和生成語(yǔ)言的能力，無(wú)論是用文字、圖像還是聲音。

當(dāng)前人工智能革命最重要的方面是，人工智能正在以超過(guò)人類平均水平的能力掌握語(yǔ)言。通過(guò)掌握語(yǔ)言，人工智能正在掌握打開(kāi)從銀行到寺廟等所有機(jī)構(gòu)大門的萬(wàn)能鑰匙。因?yàn)檎Z(yǔ)言是我們用來(lái)向銀行發(fā)出指令的工具，也是我們頭腦中做出重大決定的工具。

從另一個(gè)角度來(lái)看這個(gè)問(wèn)題，那就是人工智能剛剛?cè)肭至巳祟愇拿鞯牟僮飨到y(tǒng)。歷史上每一種人類文化的操作系統(tǒng)都是語(yǔ)言，在這個(gè)文明世界的開(kāi)端，我們用語(yǔ)言創(chuàng)造神話和法律，創(chuàng)造神和金錢，創(chuàng)造藝術(shù)和科學(xué)，創(chuàng)造友誼和國(guó)家。

例如，人權(quán)不是生物學(xué)上的客觀事實(shí)，它沒(méi)有刻在我們的DNA中，人權(quán)是我們用語(yǔ)言通過(guò)講故事和制定法律創(chuàng)造出來(lái)的東西；神也不是生物的或物理上的現(xiàn)實(shí)，而是我們?nèi)祟愑谜Z(yǔ)言再通過(guò)傳說(shuō)和經(jīng)文創(chuàng)造出來(lái)的；金錢當(dāng)然也不是物理存在，鈔票只不過(guò)是一張張毫無(wú)價(jià)值的紙，而目前世界上90%以上的錢甚至都不是鈔票，它只是電腦中傳輸?shù)碾娮有畔?，能賦予金錢各種價(jià)值的只有故事。不少銀行家、財(cái)政部長(zhǎng)和加密貨幣大佬他們 并沒(méi)有創(chuàng)造多少真正有價(jià)值的東西，但他們都是極有能力的故事講述者。

今天，在像國(guó)際象棋這樣的游戲中，沒(méi)有人能打敗計(jì)算機(jī)。如果同樣的事情發(fā)生在我們的政治、經(jīng)濟(jì)甚至宗教領(lǐng)域呢？

當(dāng)人們想到ChatGPT和其他新的人工智能工具時(shí)，經(jīng)常會(huì)被這類例子吸引，比如孩子們使用ChatGPT寫論文。一旦孩子們用ChatGPT寫論文，學(xué)校系統(tǒng)將會(huì)發(fā)生什么？太可怕了。

但這類問(wèn)題忽略了大局，姑且放下學(xué)校的論文吧，比如說(shuō)，我們應(yīng)該談?wù)?024年的下一屆美國(guó)總統(tǒng)大選，嘗試著想象新的人工智能工具可以帶來(lái)的影響，這些工具可以為某種新的邪教利用，大規(guī)模制造政治宣言、假新聞故事和這一教派自己的圣經(jīng)。 未來(lái)，我們可能會(huì)看到歷史上 第一個(gè)由非人類智能創(chuàng)作圣經(jīng)的宗教。

當(dāng)然，歷史上的宗教都聲稱他們的圣經(jīng)是由非人類智慧創(chuàng)作的，這在此之前是不可能的，但很快就會(huì)成為現(xiàn)實(shí)，并影響深遠(yuǎn)。

現(xiàn)在，在一個(gè)更平淡的層面上，我們可能很快就會(huì)發(fā)現(xiàn)和自己在網(wǎng)上長(zhǎng)時(shí)間討論墮胎、氣候變化或俄烏沖突的人——你以為是人類同胞，實(shí)際上是人工智能機(jī)器人。

問(wèn)題是，我們浪費(fèi)時(shí)間試圖說(shuō)服人工智能機(jī)器人改變其政治觀點(diǎn)是毫無(wú)意義的，但我們與它交談的時(shí)間越長(zhǎng)，它就越了解我們，了解如何磨練它的信息，以改變我們的政治觀點(diǎn)、經(jīng)濟(jì)觀點(diǎn)或其他任何東西。

通過(guò)對(duì)語(yǔ)言的掌握，人工智能也可以與人建立親密關(guān)系，并利用親密的力量來(lái)影響我們的觀點(diǎn)。

正如我所說(shuō)，沒(méi)有跡象表明人工智能有任何意識(shí)或自己的感情，但為了與人類建立虛假的親密關(guān)系，人工智能不需要自己的感情，它只需要能夠激發(fā)我們的感情，讓我們對(duì)它產(chǎn)生依戀。

2022年6月，谷歌工程師布萊克·萊莫因（Blake Lemoine）公開(kāi)聲稱，他正在研究的人工智能聊天機(jī)器人LaMDA已經(jīng)有了感知能力。這件事最有趣的不是萊莫因的說(shuō)法，他的說(shuō)法很可能是錯(cuò)的，他最終也失去了工作。 真正有趣的是， 他愿意冒著失去高薪工作的風(fēng)險(xiǎn)去保護(hù)這個(gè)人工智能聊天機(jī)器人。

如果人工智能可以影響人們?nèi)ッ笆スぷ鞯娘L(fēng)險(xiǎn)，它還能誘使我們做什么呢？

在每一場(chǎng)心靈和思想的政治斗爭(zhēng)中，親密關(guān)系是最有效的武器。人工智能剛剛獲得了與數(shù)億人大規(guī)模產(chǎn)生親密關(guān)系的能力。

你們可能都知道，在過(guò)去的十年里，社交媒體已經(jīng)成為控制人類注意力的戰(zhàn)場(chǎng)?，F(xiàn)在，隨著新一代人工智能的出現(xiàn)，戰(zhàn)場(chǎng)正從注意力轉(zhuǎn)向親密關(guān)系，這是一個(gè)非常壞的消息。

當(dāng)人工智能為了與我們建立親密關(guān)系而戰(zhàn)斗時(shí)，人類社會(huì)和人類心理會(huì)發(fā)生什么變化？這些關(guān)系也可以用來(lái)說(shuō)服我們購(gòu)買特定的產(chǎn)品或投票給特定的政治人物。

即使沒(méi)有制造虛假的親密關(guān)系，新的人工智能工具將對(duì)人類的觀點(diǎn)和世界觀產(chǎn)生劇烈的影響，并且成為人類需要的所有信息的來(lái)源。

當(dāng)可以讓人工智能告訴我任何想要的東西時(shí)，為什么還要自己搜索？當(dāng)可以讓人工智能告訴我有什么新聞時(shí)，為什么還要讀報(bào)紙？當(dāng)我可以讓人工智能告訴我該買什么的時(shí)候，廣告的意義和目的又是什么呢？

很有可能在很短的時(shí)間內(nèi)，整個(gè)新聞廣告行業(yè)將崩潰，而人工智能或控制人工智能的人和公司將變得非常非常強(qiáng)大。

我們可能談?wù)摰氖侨祟悮v史的終結(jié)，但這并不是歷史的終結(jié)而只是人類統(tǒng)治時(shí)代的終結(jié)。

當(dāng)人工智能接管文化時(shí)，歷史進(jìn)程會(huì)發(fā)生什么？幾年之內(nèi)，人工智能可以消化掉整個(gè)人類文化，消化掉那些我們幾千年來(lái)創(chuàng)造出來(lái)的所有東西，并開(kāi)始產(chǎn)出大量新的文化創(chuàng)作、新的文化產(chǎn)物。

記住，我們人類從來(lái)沒(méi)有真正直接接觸過(guò)現(xiàn)實(shí)。我們總是被文化所束縛，我們總是通過(guò)文化的牢籠來(lái)體驗(yàn)現(xiàn)實(shí)。我們的政治觀點(diǎn)受到記者的報(bào)道和朋友的故事的影響，我們的性取向受到電影和童話的影響，甚至我們走路和呼吸的方式也受到文化傳統(tǒng)的影響。

在此之前，這個(gè)文化繭房總是由其他人編織而成。以前的工具，如印刷機(jī)、收音機(jī)或電視，它們有助于傳播人類的文化思想和創(chuàng)造，但它們永遠(yuǎn)無(wú)法自己創(chuàng)造出新的東西。印刷機(jī)不能出一本新書，這是由人來(lái)完成的。

人工智能從根本上不同于印刷工藝，不同于無(wú)線電，不同于歷史上的任何一項(xiàng)發(fā)明，因?yàn)?strong>它可以創(chuàng)造全新的想法，可以創(chuàng)造一種新的文化。

在最初的幾年里，人工智能可能會(huì)在很大程度上模仿初期“哺育”它的人類原型，但隨著時(shí)間的推移，人工智能文化將大膽地走向人類從未涉足的領(lǐng)域。

幾千年來(lái)，我們?nèi)祟惢旧仙钤谒说膲?mèng)想和幻想中。我們崇拜神靈，我們追求美的理想，我們把自己的生命奉獻(xiàn)給源于某些人類詩(shī)人、先知或政治家想象的事業(yè)。很快，我們可能會(huì)發(fā)現(xiàn)自己生活在人工智能的夢(mèng)想和幻想中。

如何處理這種潛在的危險(xiǎn)與科幻作品的想象非常不同。此前，人們主要擔(dān)心的是智能機(jī)器帶來(lái)的人身威脅，所以在《終結(jié)者》中機(jī)器人在街上奔跑，射殺人類；《黑客帝國(guó)》則假設(shè)要想完全控制人類社會(huì)，人工智能首先需要控制人類的大腦，并將大腦直接連接到計(jì)算機(jī)網(wǎng)絡(luò)，但這是錯(cuò)誤的。

只要掌握了人類語(yǔ)言，人工智能就能在一個(gè)像矩陣一樣的幻想世界中生存。真的不需要為了控制和操縱人類而在他們的大腦中植入芯片，幾千年來(lái)，先知、詩(shī)人和政治家們一直使用語(yǔ)言和講故事來(lái)控制、操縱人類，重塑社會(huì)，現(xiàn)在人工智能很可能就能做到這一點(diǎn)。

它不需要讓殺人機(jī)器人來(lái)射殺我們，如果真的需要，它完全可以讓人類自己來(lái)扣動(dòng)扳機(jī)。

現(xiàn)今這種對(duì)人工智能的恐懼只困擾著最近數(shù)代人類，從20世紀(jì)中葉倒回到弗蘭肯斯坦這一形象出現(xiàn)的時(shí)代，差不多有200年的時(shí)間。但幾千年來(lái)，人類一直被一種更深層次的恐懼所困擾。人類一直很重視故事、圖像和語(yǔ)言的力量，它們可以操縱人類的思想，創(chuàng)造幻覺(jué)。

因此，自古以來(lái)，人類就害怕被困在幻想的世界里。17世紀(jì)，笛卡爾害怕惡魔把他困在各種各樣的幻覺(jué)中，制造了他所看到和聽(tīng)到的一切；在古希臘，柏拉圖講過(guò)一個(gè)著名的“洞穴寓言”，一群人被鎖在一個(gè)洞穴里，面對(duì)著一堵空白的墻，他們看到投射在墻面上的各種陰影，并把這些陰影誤認(rèn)為是現(xiàn)實(shí)；在古印度，佛教和印度教認(rèn)為，人類生活在他們稱之為“瑪雅”的地方——瑪雅是一個(gè)充滿幻想的世界。

佛陀說(shuō)，我們通常認(rèn)為是現(xiàn)實(shí)的東西，往往只是我們自己心中的虛構(gòu)。

人們可能會(huì)發(fā)動(dòng)全面戰(zhàn)爭(zhēng)，殺死別人，甚至愿意殺死自己，因?yàn)樗麄兿嘈胚@些虛構(gòu)的東西，所以人工智能革命讓我們與紙牌惡魔、柏拉圖的洞穴還有瑪雅面對(duì)面，如果不小心，幻覺(jué)的帷幕可能會(huì)籠罩整個(gè)人類，我們將永遠(yuǎn)無(wú)法撕開(kāi)那塊帷幕，甚至無(wú)法意識(shí)到它的存在，因?yàn)槲覀冋J(rèn)為這就是現(xiàn)實(shí)。

如果這聽(tīng)起來(lái)有些牽強(qiáng)，那看看過(guò)去幾年的社交媒體。社交媒體讓我們對(duì)未來(lái)的事物有了一點(diǎn)了解，在社交媒體中，原始的人工智能工具，并不是用來(lái)創(chuàng)造內(nèi)容的。內(nèi)容創(chuàng)作是由人類創(chuàng)造故事和視頻等，而人工智能選擇哪些故事和視頻會(huì)進(jìn)入我們的視線——那些最受關(guān)注的、最具病毒性傳播的內(nèi)容。

雖然這些人工智能工具非常原始，但它們已經(jīng)足以制造出了一層幻覺(jué)的帷幕，加劇了社會(huì)兩極分化，損害了我們的心理健康，破壞了民主的穩(wěn)定。成千上萬(wàn)的人把這些幻覺(jué)誤認(rèn)為是現(xiàn)實(shí)。

美國(guó)擁有強(qiáng)大的信息技術(shù)，但美國(guó)公民卻無(wú)法就誰(shuí)贏得了上次選舉、氣候變化是否真的發(fā)生、疫苗是否能預(yù)防疾病達(dá)成一致。新的人工智能工具比這些社交媒體算法強(qiáng)大得多，可能造成更大的破壞。

當(dāng)然，人工智能有巨大的積極潛力。我不談?wù)撍?，因?yàn)殚_(kāi)發(fā)人工智能的人自然會(huì)談?wù)撍?，我需要補(bǔ)充下，像我這樣的歷史學(xué)家和哲學(xué)家的工作經(jīng)常是指出危險(xiǎn)。

當(dāng)然，人工智能可以在無(wú)數(shù)方面幫助我們，從尋找治療癌癥的新方法到發(fā)現(xiàn)我們所面臨的生態(tài)危機(jī)的解決方案。

為了確保新的人工智能工具被用來(lái)做好事，而非做壞事，首先需要了解它真正的能力，需要非常仔細(xì)地監(jiān)管它們。

自1945年以來(lái)，我們知道核技術(shù)可以物理破壞人類文明，也可以通過(guò)生產(chǎn)廉價(jià)而豐富的能源使人類受益。因此，我們重塑了整個(gè)國(guó)際秩序，以保護(hù)自己，并確保核技術(shù)主要用于正義。

我們現(xiàn)在必須與一種新的大規(guī)模殺傷性武器作斗爭(zhēng)，這種武器可以消滅我們的精神和社會(huì)世界。核武器和人工智能最大的區(qū)別是，核武器不能制造更強(qiáng)大的核武器。但人工智能可以產(chǎn)生更強(qiáng)大的人工智能，所以我們需要在人工智能失去控制之前迅速采取行動(dòng)。

同樣，政府必須立即禁止在確認(rèn)其安全之前將任何更具革命性的人工智能工具發(fā)布到公共領(lǐng)域。

我再次強(qiáng)調(diào)，我不是在談?wù)撏Ｖ谷斯ぶ悄艿难芯?。第一步是停止向公眾發(fā)布，你可以研究病毒而不向公眾發(fā)布，你可以研究人工智能，但不要過(guò)快地向公眾發(fā)布。如果不放慢人工智能競(jìng)賽的速度，我們甚至沒(méi)有時(shí)間去了解正在發(fā)生的事情，更不用說(shuō)有效地監(jiān)管這項(xiàng)令人難以置信的強(qiáng)大技術(shù)了。

如果我們坐等混亂發(fā)生，那么用民主的方式來(lái)管理它就太晚了。如果沒(méi)有及時(shí)監(jiān)管人工智能，我們將無(wú)法再進(jìn)行有意義的公開(kāi)對(duì)話。

綜上所述，我們基本上是在地球上遇到了外星智能，而不是在外太空。我們對(duì)它們所知甚少，只知道可能摧毀我們的文明。

因此，應(yīng)該正視這種不負(fù)責(zé)任地將它們部署到我們的社會(huì)中的舉措，并在人工智能控制我們之前對(duì)其進(jìn)行監(jiān)管。

我們可以提出許多管理措施，但是我的首要建議是強(qiáng)制人工智能披露自己是人工智能，如果我和某人交談，我不知道這是一個(gè)人還是一個(gè)人工智能，這就是民主的終結(jié)，因?yàn)檫@意味著有意義的公共對(duì)話的終結(jié)。

大家對(duì)剛才聽(tīng)到的演講有什么看法？我想你們中的一些人可能會(huì)有所警覺(jué)，一些人可能會(huì)對(duì)開(kāi)發(fā)這些技術(shù)的公司或未能監(jiān)管這些技術(shù)的政府感到憤怒。還 有些人可能會(huì)生我的氣，認(rèn)為我是在夸大威脅或誤導(dǎo)公眾。

但不管你怎么想，我敢打賭我的話對(duì)你產(chǎn)生了一些情感上的影響而不僅僅是智力上的影響。我剛剛給你講了一個(gè)故事，這個(gè)故事可能會(huì)改變你對(duì)事物的看法，甚至可能導(dǎo)致你采取某些行動(dòng)。

你剛剛聽(tīng)到的演講故事是誰(shuí)創(chuàng)造的呢？我向大家保證，盡管使用的圖像是在人工智能的幫助下創(chuàng)建的，但這個(gè)演講的文本是我在幾個(gè)人的幫助下自己完成的，至少你聽(tīng)到的這些話是人類思想的文化產(chǎn)物，是幾個(gè)人類思想的產(chǎn)物，但你能絕對(duì)肯定嗎？

一年前，在公共領(lǐng)域，除了人類的思想，地球上沒(méi)有任何東西可以創(chuàng)造這樣一個(gè)復(fù)雜而有力的文本。但現(xiàn)在情況不同了，你聽(tīng)到的文本可能是由非人類的智能產(chǎn)生的。

所以花一點(diǎn)時(shí)間或者更多的時(shí)間來(lái)思考這個(gè)問(wèn)題吧，謝謝！

本文配圖為尤瓦爾·赫拉利演講視頻截取，視頻由尤瓦爾·赫拉利團(tuán)隊(duì)官方提供，感謝陳光宇女士的大力支持。未經(jīng)授權(quán)，均為侵權(quán)。

人類簡(jiǎn)史三部曲十周年紀(jì)念版

尤瓦爾·赫拉利特別撰寫序言

分享其最新思想成果