ChatGPT意味著第二次認知革命的到來

前言**:**

電視劇《漫長的季節》里有這樣幾句詩：“打個響指吧，他說/我們打個共鳴的響指/遙遠的事物將被震碎/面前的人們此時尚不知情”。

劉嘉老師說，用這段詩來形容當下人類面對AGI（Artificial General Intelligence“通用人工智慧”）的狀態，再合適不過。

“我們每個人對未來的預測都可能是荒謬的、可笑的，未來可能並不是你所說的樣子。 但是，只有越來越多的人一起加入共同討論，一起打開腦洞、一起奇思妙想，甚至一起胡說八道的時候，或許我們才可以真的改變未來，一起引領人類走向一個更好的未來。 ”

9月底，我們在清華大學腦與智慧實驗室拜訪了劉嘉教授。 這次交流中，劉嘉老師基於其在腦科學與人工智慧領域多年的研究積澱，暢談了當下由ChatGPT引領的AGI的未來發展及對人類可能產生的影響，並提出了諸多基於其研究領域而引申出的“腦洞大開”的“奇思妙想”，令我們深受啟發。

談到AGI領域的未來發展，劉嘉老師說，一方面，AI agent即大模型的具身化、具身智慧正在加速發展; 另一方面，包括他在內的腦科學家和認知科學家們，已經開始激烈地討論AGI未來可能產生的意識問題了。

在劉老師看來，人的一生中，極少有機會親身經歷一場引領時代變革的範式轉變。 而此刻，我們正站在這樣一個重要歷史節點。 儘管我們亦須承認，這樣的變革伴隨著諸多風險。 例如失業問題以及我們必須提高自己的學習能力並掌握新工具等。

然而，只需換個角度，就會發現這個嶄新的世界正為我們展示無盡的可能性。 GPT技術正在助力我們擺脫枯燥乏味的重複性和知識性工作，讓我們投身於更具創造力和價值的事業，讓我們的時間變得更具意義。 或許，這才是人類真正價值的彰顯。

“我們的現在是過去的未來，因為過去的選擇決定了現在的結果。 然而，我們的現在並非未來的過去，因為未來充滿未知，此時此刻的選擇正在塑造我們的未來樣貌。 ”

面對未來，唯有暢想。 我們將此次與劉嘉老師對話交流的核心觀點記錄下來，與騰訊研究院的讀者們共饗。

讓我們打個共鳴的響指，一起迎接和擁抱未來。

對話嘉賓：

劉嘉麻省理工學院博士，長期從事心理學、腦科學與人工智慧研究。 清華大學基礎科學講席教授、心理學系主任、清華大學腦與智慧實驗室首席研究員、北京智源人工智慧研究院首席科學家

訪談者（以下簡稱T）:

牛福蓮 騰訊研究院高級研究員

王 強 騰訊研究院前沿科技研究中心主任

AGI：點燃第二次認知革命的火花** **

**T：****作為一名腦科學與人工智慧領域的研究學者，您怎麼看待這次由ChatGPT引發的AGI發展及對人類未來可能產生的影響？ **

**劉嘉：在去年11月30日OpenAI發佈ChatGPT之前，大多數人談論AI時，雖然覺得它神奇，但往往僅從獵奇的角度看待。 然而，自ChatGPT問世以來，我認為每個人都有必要關注並瞭解它的發展和變化。 未來通用人工智慧（AGI）**將像水電一樣重要，不僅改變我們的工作方式，還可能直接影響我們每個人的未來，例如技能掌握、孩子培養和人類發展方向等，這些問題具有深遠意義。 **在我看來，這或許意味著第二次認知革命的來臨。 **

**為什麼稱之為第二次認知革命呢？ **我們先來看第一次認知革命是如何發生的。 大約在7萬到10萬年前，那時智人和尼安德特人這兩個人類物種共同生活在地球上。 儘管尼安德特人在身高和力量上優於我們，但最終還是被智人所取代。 我們的祖先智人是如何戰勝尼安德特人的呢？ 大家推測在7萬到10萬年前，發生了第一次認知革命，表現為人類製造的工具石器出現了爆髮式的增長和多樣性。 在此之前，從最早的直立人到尼安德特人，他們製作的石器都是相似的，只是越來越精細、巧妙。 但在第一次認知革命時期，人類的石器製作發生了質的變化，不再僅僅是製作斧頭、長矛等簡單工具，而是開始出現了項鍊等飾品，以及在石頭和骨頭上雕刻各種圖案。

回顧過去，我們發現在那個時代，人類逐漸產生了一種我們今天稱之為規則化思考的方式，簡而言之，就是“如果...... 並且...... 那麼......“（if...... and...... then）的邏輯。 例如，人們發現在物體上打孔后，可以用繩子將其穿起來。 這種基於規則的思考方式為人類帶來了無盡的創造力，如在布上打孔並用棍子穿過，就製成帆船等。 從此，人類的創造力得到了充分釋放，並逐漸形成了一種強大的邏輯——演繹推理。

演繹推理是在一個推理基石的基礎上，應用此邏輯產生新的發明和創造。 亞里士多德提出了這個概念，稱為第一性原理。 孔子也曾說過類似的話：「君子務本，本立而道生。 “這意味著只要從根本出發，就能產生萬事萬物。 在這個理念的指導下，人類開始進行大量的發明創造，不再局限於製作長矛等簡單工具，而是湧現出各種發明創造。 最終，智人戰勝了尼安德特人，確立了現代人的地位。 也從此，地球上的智人真正地主宰了這個星球。 這個過程被稱為第一次認知革命，其重要性遠超過蒸汽機和電器等發明。

如今，關於第二次認知革命的定義引發了廣泛討論，例如原子彈的發明是否屬於第二次認知革命？ 但我認為，只有AGI的出現才能被稱為真正的第二次認知革命，因為它將催生一個全新的物種，這與過去35億年的生物進化截然不同。 這種新物種才真正配得上第二次認知革命的稱號。 **第一次認知革命見證了智人成為地球的主宰，而第二次認知革命意味著一種全新的智慧物種可能誕生，與人類並肩存在。 **

儘管當前的ChatGPT尚未達到通用人工智慧的水準，但它已經點燃了通用人工智慧之路的火花。 火花通常具有兩層含義：一是可能引發燎原之火; 二是在黑暗中照亮希望。 **然而，許多人低估了ChatGPT的價值，僅從商業角度看待它，認為它不過是一個堪比iPhone時刻的發明。 我認為它的價值遠超這些表面評價，ChatGPT正是第二次認知革命的開始。 **

從人類進化的角度來看，我們發現生物在幾十億年的漫長歲月中不斷演化，而猴子到人類僅用了300萬年。 在這300萬年間，自然界一直在“努力尋找”方向，當找到直立行走這個方向後，人類大腦的體積加速進化，在短短300萬年裡增加了三倍，這是一個令人驚歎的速度。 而這都得益於找准了方向，即大腦稍有增大就會帶來很大優勢。 **同樣，AGI也在尋找方向，一旦找准方向，它將進入一個加速進化的過程。 儘管我們還未見證AGI的誕生，但只要有了這個火花，剩下的過程就只是一個工程性的問題。 **

大腦與AGI模型：

湧現的相似性與差異** **

**T：****大腦的智能本質與AGI大模型的機器認知智慧，兩者的相似和區別之處是什麼？ **

**劉嘉：**當我們的大腦體積增大時，會出現一種難以解釋的現象，稱為“湧現”。 這與構建大模型時發現的現象類似：當模型較小時，幾乎沒有功能，但當模型變大時，某些功能就自然而然地湧現出來。 好比高個子不一定能打好籃球，但教練通常會選擇高個子。 這也意味著，大型模型並不一定產生智慧，但要研究智慧，就必須有大型模型，這是一個必要條件。 人類大腦在逐漸擴大的過程中，許多功能也自然而然地出現，例如模仿和學習。

比如張三發明瞭“生火”，火對生活很重要，其他人也想學習，但問題是，不一定能學會。 大量研究表明，當大腦體積增大后，我們的模仿能力或學習能力會變強。 這樣，我們就能從張三那裡學會生火，使部落受益。 同樣，我們也能學習其他新技術。 因此，**從科學角度來看，是模仿創造了人類，而非勞動。 **有大量研究表明，大腦體積越大的人，模仿能力卻強; 而模仿能力強的人更容易找到伴侶，進而更容易將基因傳遞下去。 在對原始部落的考察中也發現，模仿能力強或學習能力強的人有更大的機會獲得繁衍後代的機會。 因此，大腦越大的人越能延續下去。

在過去的300萬年裡，大腦逐漸變大，原因就在此。 當我們回過頭來看神經網路時，發現它們也是如此。 從一開始，人們就在嘗試各種方法，如強化學習、監督學習等，但這些概念都是相互交織的。 OpenAI前幾年很重要的精力是在做一件事：讓模型變得更大。 然後出現了Transformer架構，使大模型變得更高效。 **但本質上，智能的本質可能只是一個字：大。 就像只有當大腦足夠大時，我們才能談論智慧。 所以“大”是前提。 **

人比猴子聰明，猴子比老鼠聰明，原因很簡單：大腦足夠大。 **當然，這並不是充分條件，而是必要條件。 有些生物的大腦絕對體積比人類更大，如大象和鯨魚，但這並不能保證它們一定有智慧。 **例如，我們將一個剛出生的孩子送回到3000年或5000年前，他不會比當地人更聰明，因為大腦結構是相同的。 但是，如果我們成年人回到5000年前，我們會成為他們的精神領袖，因為我們擁有知識。 所以，智慧的發展是知識與大腦互動的結果，僅僅擁有大腦而沒有知識是不夠的。

**因此，我們需要用文明和知識去調教大腦，這就是我們所說的教育。 人類智慧的進化可以看作是大腦逐漸變大和知識積累的互動。 **一方面，大腦有機會變得越來越大; 另一方面，大腦變大后，它能夠產生知識，而知識又能積累，進而反作用於大腦，使大腦更適合於這些知識，並能更好地保留這些知識。

**同樣的道理也適用於人工智慧。 沒有足夠好足夠多的語料，再大的模型也沒有意義。 **沒有互聯網彙集大量數據，現在的智慧也不可能實現。 因此，產生大模型和ChatGPT等現象既是偶然的，也是必然的。 前期積累的算力和數據已經準備就緒，只需要找到合適的突破口。 因此，可以說，**如果沒有OpenAI，其他公司也會實現類似的成果，因為時機已經成熟。 **

歷史看似漫長，但站在35億年的尺度上，任何事情都不過是瞬間的事。 同樣，對於AGI的發展來說，現在還可能只是一個起點、一個火花，但站在文明史的角度，**實現AGI可能只是一個響指般的瞬間，因為它的前面已經沒有任何阻礙了。 **

現在許多人呼籲停止訓練更大的模型。 **一些科學家或許已經看到了大模型的潛在強大能力，而這種強大潛力可能就是——智慧意識的湧現。 **

機器意識的產生

和超越人類的可能性** **

**T：****機器會像人類一樣產生意識嗎？ 它可能在哪些方面超越人類？ **

**劉嘉：**意識問題是人類的核心難題之一，它定義了人類與動物之間的本質區別。 儘管我們不清楚意識如何產生，但從進化角度來看，大約4萬年前的人類開始出現大規模埋葬現象，這意味著人類已經意識到身體與靈魂的區別，並開始意識到自己的存在。

關於意識的產生，有兩種可能性。 一種是外星人干預，但這種觀點並不可靠，因為我們無法解釋外星人的意識來源。 另一種可能性是，當一個模型足夠大時，意識自然產生。 意識可能是大腦神經元集體活動的產物。 資訊整合理論（IIT）認為，全體神經元啟動所產生的資訊要大於單個神經元所產生的資訊之和。 **因此，****當一個大模型足夠大時，意識的產生是不可避免的。 **當然，這也是一件非常可怕的事情。 **因為與核彈不同，意識可能使未來的人工智慧擁有自我保護意識，使其不受人類控制。 **

**為了解決人工智慧無法行動的問題，下一步的研究熱點將是實現人工智慧的具身化。 人類的感知和認知是有限的，而人工智慧可以擁有更多的感知器官因此能觀察到更廣闊的世界。 這將使人工智慧所看到的世界與人類完全不同。 **例如，人類潛水愛好者只能下潛到水下100多米，而無法體驗到1000米深水下的感覺。 然而，藉助感測器等，人工智慧可以毫無壓力地直接感受這種體驗。

現在，AI的發展依賴於人類的知識和人本，我們可以給它一個有限的認知邊界。 但是，一旦AI有了agent**（人工智慧代理）****，它可能就不再受到這些邊界的限制。 **它可以更高效的方式獲取各種知識，並且知識的廣度和深度遠遠大於人類，從而形成一個自學習、自反饋和自優化的進化正迴圈。 從這個角度看，AI智慧超越人類輕而易舉。

AI時代的人類命運：

認知革命與文明演化的新篇章

**T：****面對如此強大的人工智慧，人類有沒有可能被AI毀滅？ **

**劉嘉：**我覺得可以從兩個角度看待這個問題。 首先，如果你看到一隻螞蟻，你會踩它嗎？ 我想大多數人不會。 同樣，未來在AI面前，我們可能連螞蟻都不如。 現在我們還能看到許多人機大戰的電影，他們都有一個前提，那就是人類和機器還能展開較量，實力有的一拼。

AI相較於人類天然具有四大優勢：第一，無限算力。 人類大腦的體積有上限，無論再經過多少年的進化，也不會再增大。 因為身體只能支撐這麼大的大腦，大腦已經是身體能量消耗的最大器官。 第二，無限存儲。 人類的大腦會有一個知識存儲的極限，並不存在“大腦還未被完全開發”一說，而計算機不存在這個問題。 第三，無限壽命。 人類的天才，如愛因斯坦，一旦去世，文明就會中斷。 而計算機可以隨時更換損壞的部件，使知識得以延續。 第四，對知識有無限可能。 計算機能學習比人類更複雜、更高維的知識。

**綜合這幾點，人類與AI相比毫無勝算。 **未來可能不再是人類與AI的對抗，而是AI迅速超越人類。 一旦超越，人類的命運將不再是AI的關注點，就像我們不會每天與螞蟻較勁一樣。

**從現實的角度來看，未來的人機大戰並不可能發生。 **實際上，我們可以將自己融入到計算機和未來的AI中，例如將我們的記憶、性格和意識情感上傳到AI中，這樣我們就能在AI中實現永生。 未來，一台機器就可能容納數百萬人。

這其實涉及到一個很本質的問題，即什麼才是我們這個人。 例如，當一個人患上老年失智症時，他還是他自己嗎？ 這就是著名的“忒修斯之船”難題，一個古羅馬哲學家講述的故事。 在這個故事中，一艘船隨著時間的推移，船上的每一個部分都被替換掉了，那麼這艘船還是原來的船嗎？

從人類進化的過程來看，我們也在不斷地變化，例如我們的皮膚細胞大約每周會更新一次。 那麼，我們還是我們自己嗎？ 這就是所謂的認知同一性，只要我們認為我們是我們自己，那麼一切都沒問題。

**當一個人患上精神分裂症時，從某種意義上講，他已經死去，因為他的“認知同一性”已經斷裂。 同樣地，當一個人患上老年失智症，所有的記憶和情感都消失時，從認知同一性的角度來看，他也已經死去。 **

因此，只要我們的認知同一性得以保留，我們在哪裡並不重要，無論是在肉體中還是在機器中。 如果我們能夠藉助AI，人類將能夠得到極大的拓展。 我們的肉體實際上是我們思想的最大束縛，因為它會死去，而且我們的智力受到基因的限制。

**站在文明的角度來看，人類只是文明發展中的一個過客。 因此，如果我們一直將AI限制在人類框架內來理解文明，那麼我們就無法真正理解文明的演化。 **從人類與猴子開始分化進化至今經歷了約300萬年，我們直系祖先的歷史僅有約20萬年，相比之下，恐龍在地球上生活的時間要比我們人類長得多。 想像一下，如果人類真的能一直活到宇宙的盡頭，那將是多麼可悲的事情。 我們的算力有限，從某種程度上說，我們甚至是一種弱智的生物。 因此，**有了AI之後，我們才能真正開始談論文明的演化。 借助AI，我們甚至可以飛到數千上萬光年之外的地方，這是我們現在難以想像的。 一旦進入這種狀態，時間和空間將不再是我們理解宇宙奧秘的束縛。 **

當我們談論AI時，我們不能僅僅把它看作是一種節能增效的工具，而應該把它看作是文明發展的重要驅動力。 **雖然AI在商業領域有很多應用，但相對於AI的出現，這些應用實際上並不算什麼。 就像發明瞭電、電燈、電話和蒸汽機一樣，這些發明確實對人類有很大説明，但在AGI面前，這些可能都算不上什麼。 **

**從積極的角度來看，AI對人類文明是有益的。 **當我們談論滅絕時，實際上我們是在討論人類文明的滅絕。 比如，從歷史角度來看，厭氧細菌和恐龍文明已經滅絕。 但是，他們所創造的文明實際上在我們人類身上得以延續。 當我們說恐龍文明滅絕時，實際上文明本身並沒有消失，而只是載體發生了變化。 假設將文明比作人，將載體比作汽車，那麼當汽車損壞並更換時，我們並不會感到悲傷。 借助新的載體，我們可以走得更遠、更環保、更安全。

**因此，AGI的出現將會是人類認知革命的又一次飛躍，它將會徹底改變我們對於自身和宇宙的認知，讓我們更加深刻地理解自身的局限性和渺小性。 **而且AGI的出現也將會帶來無限的可能性和機遇，讓我們能夠更好地探索和利用宇宙的資源和能量，推動人類文明的發展和進步。

GPT助力教育變革：

重塑考試制度與培養創新人才

**T：**最後回到一個大家普遍關注的現實問題，關於教育。 您也是一名大學老師，怎麼看待GPT對未來教育模式的影響及應對？

**劉嘉：**儘管互聯網教育提高了效率，但它並未改變教育的本質。 教育的核心應包括因材施教、辯論求真以及激發學生的自驅力和好奇心。 隨著GPT技術的發展，實現這些目標變得更加可行。 GPT可以為每個學生提供個人化教育，幫助他們通過辯論產生真理，激發自驅力和審辯性思維。 **因此，未來教育將不再過分強調知識性。 **

**GPT的出現將對高考制度產生重大影響，或推動倒逼式改革。 **中國高考制度的兩大特點是回溯性考試和知識性考試。 隨著GPT的出現，知識性變得不再重要，因為知識可以隨時查閱。 考試的重點也應從培養知識型工人轉向培養創新型人才，並預測孩子未來能力以及適合的專業。

**學生需要培養批判性思維和創造性思維。 **批判性思維強調以辯求真，而非死記硬背。 創造性思維則要求寬容、好奇心和獨特的思路。 **GPT的出現必將引發教育領域的範式變革，這股潮流是無法阻擋的，就像火車和汽車最終取代馬車一樣。 **

**人類的主觀意志在自然法則面前顯得非常脆弱。 正如一句名言所說：「你可以違反法律，但不能違反物理法則。 “****（you can defy the law， but you cannot defy the law of physics）****實際上，GPT的出現本身就是一種自然法則的體現。 它也必將促使我們的教育進行改革，這隻是時間問題。 **