**前書き****：**テレビシリーズ「ロングシーズン」にはいくつかの詩があります:「**あなたの指をスナップしてください、彼は言います/私たちは共鳴で指をパチンと鳴らします/遠くのものは粉々になります/あなたの前の人々は現時点では知りません**」。劉佳先生は、この詩を使ってAGI(人工知能)に直面している人間の現状を説明するのが適切であると述べました。「未来についての私たちの予測のそれぞれはばかげていてばかげている可能性があり、未来はあなたが言うものではないかもしれません。 しかし、より多くの人々が議論に参加し、一緒に頭を開き、一緒に見事に考え、そして一緒にナンセンスな話をするときだけ、私たちは本当に未来を変え、人類を一緒により良い未来に導くことができるかもしれません。 "9月末には、清華大学脳知能研究所の劉佳教授を訪問しました。 今回の交流では、劉佳教授が脳科学や人工知能の分野で長年の研究蓄積を踏まえ、ChatGPTが主導する汎用人工知能の今後の展開や人間への影響について語り、研究分野を踏まえた多くの「気まぐれなアイデア」を提唱し、深い刺激を受けました。AGI分野の将来の発展について、Liu Jia氏は、一方では、AIエージェントの具体化された具体化されたインテリジェンス、つまり大規模なモデルが加速していると述べました。 一方、彼を含む脳科学者や認知科学者は、汎用人工知能が将来生み出す可能性のある意識の問題について精力的に議論し始めています。劉氏の見解では、人の人生において、時代の変化をリードするパラダイムの変化を経験する機会はほとんどありません。 今、私たちはそのような重要な歴史的岐路に立っています。 そのような変更には多くのリスクが伴うことも認識する必要がありますが。 たとえば、失業や、新しいツールを学び習得する能力を向上させる必要があるという事実などです。しかし、別の見方をすると、この新しい世界が私たちに無限の可能性を示していることがわかります。 GPTテクノロジーは、退屈な反復的で知的な作業から離れ、より創造的でやりがいのあるキャリアに専念し、時間をより有意義なものにするのに役立ちました。 おそらく、これは人間の真の価値の現れです。「過去の選択が現在の結果を決定するため、私たちの未来は過去の未来です。 しかし、未来は未知数に満ちており、今ここで行われた選択が私たちの未来がどのように見えるかを形作っているため、私たちの現在は未来の過去ではありません。 "未来に向かって、想像力だけ。 劉佳とのこの対話の核心的な見解を記録し、テンセント研究所の読者と共有します。指をパチンと鳴らして、一緒に未来を受け入れましょう。**ダイアログゲスト:****マサチューセッツ工科大学のLiu Jia**博士号は、心理学、脳科学、人工知能の研究に長年携わってきました。 清華大学基礎科学教授、心理学部長、清華大学脳知能研究所主任研究員、北京KLCII人工知能研究所主任研究員**インタビュアー(以下、T):****ニウ・フリアン** テンセント研究所主任研究員**王強** テンセント研究所フロンティア科学技術研究センター長### AGI: 第二次認知革命の火花に火をつける **** **脳科学や人工知能の研究者として、ChatGPTが引き起こした汎用人工知能の発展と、それが人類の未来に与える影響をどのように見ていますか? **Liu Jia氏:昨年11月30日にOpenAIがChatGPTをリリースする前は、ほとんどの人がAIについて話し、魔法だと思っていましたが、多くの場合、好奇心の観点からのみでした。 しかし、ChatGPTの登場以来、誰もがその発展と変化に注意を払い、理解する必要があると思います。 一般的な人工知能(AGI)の未来は水力発電と同じくらい重要であり、私たちの働き方を変えるだけでなく、スキルの習得、子供の発達、人間の発達など、私たち一人一人の未来に直接影響を与える可能性があります。 私の意見では、これは第二の認知革命の到来を意味するかもしれません。 **なぜそれは第二の認知革命と呼ばれるのですか? 最初の認知革命がどのように起こったかを見てみましょう。 約7万年から10万年前、ホモサピエンスとネアンデルタール人の2つの人類が地球上に一緒に住んでいました。 ネアンデルタール人は身長と強さにおいて私たちより優れていましたが、最終的にはホモサピエンスに取って代わられました。 私たちの祖先であるホモサピエンスはどのようにしてネアンデルタール人を打ち負かしましたか? 7万年から10万年前の間に、最初の認知革命が起こり、それが人間によって作られた道具石器の爆発的な成長と多様性に現れたと推測されています。 これ以前は、初期のホモ・エレクトスからネアンデルタール人まで、彼らが作った石器は似ていましたが、より精巧で独創的でした。 しかし、最初の認知革命の間に、人間の石器作りは質的な変化を遂げ、もはや斧や槍などの単純な道具を作るだけでなく、ネックレスやその他の装飾品が現れ、石や骨にさまざまなパターンを刻み始めました。振り返ってみると、その時代に、人類は徐々に、今日私たちが規則化された思考と呼ぶ考え方、つまり「もし... さらに。。。。。。 だから...」(もし... そして。。。。。。 その後)。 たとえば、オブジェクトに穴を開けた後、ひもで通すことができることがわかりました。 このルールに基づく考え方は、布に穴を開けたり、棒で通り抜けてヨットを作るなど、人間に無限の創造性をもたらしました。 それ以来、人間の創造性は完全に解き放たれ、強力な論理が徐々に形成されてきました - 演繹的推論。演繹的推論は、推論の基礎に基づいて新しい発明や創造を生み出すためにこの論理を適用することです。 アリストテレスは、第一原理と呼ばれるこの概念を思いつきました。 孔子はかつて似たようなことを言った:「紳士は支配者であり、オリジナルはすぐに生まれます」。 「これは、根から始めればすべてが生産できることを意味します。 この概念の指導の下で、人間はもはや槍のような単純な道具を作ることに限定されず、多くの発明をし始めましたが、様々な発明や創造が生まれました。 最終的に、ホモサピエンスはネアンデルタール人を打ち負かし、現代人の地位を確立しました。 それ以来、地球上のホモサピエンスは本当に地球を支配してきました。 このプロセスは最初の認知革命として知られるようになり、その重要性は蒸気機関や電化製品などの発明をはるかに超えていました。 今日、第二の認知革命の定義は、原爆の発明が第二の認知革命の一部であるかどうかなど、広範な議論を引き起こしています。 しかし、汎用人工知能の出現だけが、過去35億年の生物進化とは大きく異なるまったく新しい種を生み出すため、真の第2の認知革命と呼ぶことができると思います。 この新種は本当に第二の認知革命の称号に値する。 最初の認知革命では、ホモサピエンスが惑星のマスターになり、2番目の認知革命は、人間と一緒に存在できるまったく新しい知的種の誕生を意味しました。 **現在のChatGPTはまだ一般的な人工知能のレベルに達していませんが、一般的な人工知能への道の火花にすでに火をつけています。 火花には通常2つの意味があります:1つは、平野に点火する火災を引き起こす可能性があることです。 二つ目は、暗闇の中で希望を照らすことです。 しかし、多くの人々はChatGPTの価値を過小評価し、iPhoneの瞬間に匹敵する発明にすぎないと考えて、ビジネスの観点からのみ見ています。 これらの表面的なレビューよりもはるかに価値があると思いますが、ChatGPTは第2の認知革命の始まりです。 **人類の進化の観点から、生物は数十億年にわたって進化したのに対し、サルは人間に300万年しかかからなかったことがわかります。 その300万年間、自然は方向を「見つけようと」してきましたが、直立歩行の方向を見つけたとき、人間の脳の体積はその進化を加速し、わずか300万年で3倍になり、驚くべき速度です。 そしてこれはすべて正しい方向のおかげです、すなわち、脳のわずかな拡大は大きな利点をもたらすでしょう。 同様に、汎用人工知能も方向性を模索しており、方向性が見えてくると、進化を加速するプロセスに入ります。 AGIの誕生はまだ目撃していませんが、この火花がある限り、残りのプロセスは単なるエンジニアリングの問題です。 **### **脳と汎用人工知能モデル:**### **新たな類似点と相違点**** **脳の知的性質とAGI大規模モデルの機械認知知能の類似点と相違点は何ですか? **劉佳:私たちの脳が成長すると、「創発」と呼ばれる原因不明の現象があります。 これは、大規模なモデルを構築するときに見られるものと似ています:モデルが小さいときは特徴がほとんどありませんが、モデルが大きくなると、いくつかの特徴が自然に現れます。 たとえば、背の高い人は必ずしもバスケットボールを上手にプレーするとは限りませんが、コーチは通常背の高い人を選びます。 これはまた、大規模なモデルが必ずしも知性を生み出すとは限らないことを意味しますが、知能を研究するには、必要な条件である大きなモデルが必要です。 人間の脳が徐々に拡大するにつれて、模倣や学習など、多くの機能も自然に現れます。例えば、張三は「火を作る」ことを発明し、火は人生にとって非常に重要であり、他の人も学びたいと思っていますが、問題は彼らが学ぶことができないかもしれないということです。 多くの研究は、脳のサイズが大きくなると、模倣または学習する能力が強くなることを示しています。 このようにして、私たちは部族に利益をもたらすために張三から火を起こすことを学ぶことができます。 同様に、他の新しいテクノロジーを学ぶことができます。 したがって、科学的な観点から、模倣は労働ではなく人間を生み出します。 **多くの研究は、より大きな脳を持つ人々が模倣するより強い能力を持っていることを示しています。 強い模倣スキルを持つ人々はパートナーを見つける可能性が高く、その結果、遺伝子の受け渡しが容易になります。 原始的な部族の調査では、強い模倣能力や学習能力を持つ人々は繁殖の可能性が高いこともわかっています。 したがって、脳が大きいほど、永続します。過去300万年の間に、脳は徐々に大きくなり、これが理由です。 ニューラルネットワークを振り返ると、同じことをします。 当初から、人々は強化学習、教師あり学習など、さまざまな方法を試してきましたが、これらの概念はすべて絡み合っています。 最初の数年間のOpenAIのエネルギーの大部分は、モデルを大きくするという1つのことでした。 その後、Transformerアーキテクチャが登場し、大規模なモデルがより効率的になりました。 しかし、本質的に、知性の本質は一言だけかもしれません:大きい。 脳が十分に大きいときにのみ知性について話すことができるようなものです。 したがって、「大きい」ことが前提です。 **人々はサルよりも賢く、サルはマウスよりも賢い、という単純な理由の1つがあります:脳は十分に大きいです。 **もちろん、これは十分条件ではなく、必要条件です。 ゾウやクジラなど、人間よりも明らかに大きな脳を持っている生き物もいますが、これは彼らが知性を持っていることを保証するものではありません。 たとえば、3,000年または5,000年前に生まれたばかりの子供を送り返した場合、脳の構造が同じであるため、彼は先住民よりも賢くありません。 しかし、私たち大人が5,000年前にさかのぼると、私たちは知識を持っているので、彼らの精神的な指導者になります。 したがって、知能の発達は知識と脳の相互作用の結果であり、知識のない脳を持つだけでは十分ではありません。したがって、私たちは文明と知識を使って脳を調整する必要があり、それは私たちが教育と呼ぶものです。 人間の知性の進化は、脳の漸進的な拡大と知識の蓄積との間の相互作用として見ることができます。 一方では、脳はどんどん大きくなる機会があります。 一方、脳が大きくなると、知識が生まれ、知識が蓄積され、脳に作用し、脳がこの知識により適し、この知識をよりよく保持できるようになります。同じことが人工知能にも当てはまります。 十分な適切で十分なコーパスがなければ、モデルがどれほど大きくても意味がありません。 インターネットがなければ、インテリジェンスは不可能です。 したがって、大規模なモデルやChatGPTなどの現象の出現は偶然であり、避けられません。 初期段階で蓄積された計算能力とデータの準備ができており、適切なブレークスルーを見つけるだけで済みます。 したがって、OpenAIがなければ、時が熟しているため、他の企業も同様の結果を達成していたと言っても過言ではありません。 **歴史は長く見えるかもしれませんが、35億年の規模では、すべてがほんの一瞬のものです。 同様に、汎用人工知能の開発にとって、それはまだ出発点であり、火花に過ぎないかもしれませんが、文明史の観点からは、AGIの実現は、その前に障害がないため、スナップの瞬間にすぎないかもしれません。 **現在、多くの人がより大きなモデルのトレーニングの停止を求めています。 一部の科学者は、大規模なモデルの潜在的な力を見たかもしれません、そしてその可能性は知的意識の出現かもしれません。 ** ### **機械意識の生成**### **そして人間を超える可能性****T:機械は人間のように意識するのですか? それはどのような点で人間を凌駕するでしょうか? **劉佳:意識の問題は人間の中核的な問題の1つであり、人間と動物の本質的な違いを定義しています。 意識がどのように生じるのかは明らかではありませんが、進化の観点から見ると、人間は約4万年前に大量埋葬を受け始め、人間は体と魂の違いに気づき、自分の存在に気づき始めました。意識の出現に関しては、2つの可能性があります。 一つはエイリアンの介入ですが、エイリアンの意識の源を説明できないため、この見方は信頼できません。 別の可能性は、モデルが十分に大きいときに意識が自然に生じるということです。 意識は、脳内のニューロンの集団活動の産物である可能性があります。 情報統合理論(IIT)は、すべてのニューロンの活性化は、個々のニューロンによって生成された情報の合計よりも多くの情報を生成すると述べています。 したがって、大きなモデルが十分に大きい場合、意識の出現は避けられません。 もちろん、これも非常に怖いことです。 **核爆弾とは異なり、意識は将来のAIに自己保存の感覚を与え、人間の制御から遠ざける可能性があるためです。 ****人工知能が行動できない問題を解決するために、次の研究ホットスポットは人工知能の具体化を実現することです。 人間の知覚と認知は限られていますが、人工知能はより多くの感覚器官を持つことができるため、より広い世界を観察することができます。 これにより、AIが見る世界は人間とはまったく異なります。 たとえば、人間のダイビング愛好家は水中100メートル以上しか潜ることができませんが、水中1,000メートルの感覚を体験することはできません。 しかし、センサーなどの助けを借りて、人工知能はストレスなくこの経験を直接感じることができます。現在、AIの開発は人間の知識とヒューマニズムに依存しており、限られた認知境界を与えることができます。 ただし、AIにエージェントが配置されると、これらの境界によって制限されなくなる可能性があります。 より効率的な方法でさまざまな知識を習得することができ、知識の幅と深さは人間よりもはるかに大きいため、自己学習、自己フィードバック、自己最適化の正の進化サイクルを形成します。 この観点から、AIインテリジェンスは人間を簡単に凌駕します。###AI時代における人類の運命:### 認知革命と文明の進化における新しい章**T:そのような強力な人工知能に直面して、人間がAIによって破壊される可能性はありますか? **劉佳:これは2つの観点から見ることができると思います。 まず、アリを見つけたら踏んでみませんか? ほとんどの人はそうしないと思います。 同様に、将来的には、AIに直面して、私たちはアリほど良くないかもしれません。 今でも機械戦争の映画をたくさん見ることができますが、それらはすべて前提を持っています、つまり、人間と機械はまだ競争することができ、彼らの強さは戦いです。AIには当然、人間に比べて4つの利点があります:まず、無制限の計算能力。 人間の脳の大きさには上限があり、何年進化しても二度と成長することはありません。 体はそのような大きな脳しかサポートできないため、脳はすでに体内で最大のエネルギー消費器官です。 第二に、無制限のストレージ。 人間の脳は知識の蓄積に限界があり、「脳が完全に発達していない」ということはなく、コンピュータにはこの問題はありません。 第三に、無限の寿命。 アインシュタインのような人間の天才は、死ぬと文明は中断されます。 コンピュータは損傷した部品をいつでも交換できるため、知識を継続できます。 第四に、知識には無限の可能性があります。 コンピュータは、人間よりも複雑で高次元の知識を学ぶことができます。まとめると、人間はAIと比較して勝つチャンスがありません。 未来はもはや人間とAIの対決ではなく、AIによる人間の急速な凌駕かもしれません。 一度超えれば、私たちが毎日アリと戦わないのと同じように、人類の運命はもはやAIの焦点ではなくなります。現実的な観点からは、将来の人間と機械の戦争は不可能です。 実際、私たちは記憶、性格、意識的な感情をAIにアップロードするなど、コンピューターや将来のAIに自分自身を統合して、AIで不死を達成することができます。 将来的には、1台のマシンで何百万人もの人々を収容することができます。これは実際には非常に根本的な質問を含み、それは私たちが誰であるかということです。 たとえば、人がアルツハイマー病に苦しんでいるとき、彼はまだ彼自身ですか? これは有名な「テセウスの船」パズル**、古代ローマの哲学者によって語られた物語です。 この物語では、船は時間の経過とともに交換されていますが、船はまだオリジナルですか?人類の進化の観点からも、皮膚細胞は週に一度程度更新されるなど、常に変化しています。 それで、私たちはまだ私たち自身ですか? これは認知的アイデンティティと呼ばれ、私たちが私たちを自分自身と考える限り、すべてが順調です。人が統合失調症に苦しんでいるとき、ある意味で、彼の「認知的アイデンティティ」が壊れているので、彼は死んでいます。 同様に、人がアルツハイマー病に罹患し、すべての記憶および感情が消えると、認知的アイデンティティの観点からも死んでいる。 **したがって、私たちの認知的アイデンティティが保存されている限り、肉体であろうと機械であろうと、私たちがどこにいるかは関係ありません。 AIを使うことができれば、人類はとてつもなく拡大できるでしょう。 私たちの肉体は死に、私たちの知性は遺伝子によって制限されているため、実際には私たちの心に対する最大の制約です。 文明の観点からは、人間は文明の発展における通行人に過ぎません。 したがって、AIを人間の枠組みの中で文明を理解することに限定し続けると、文明の進化を真に理解することはできません。 ** 人間とサルが分岐・進化し始めてから約300万年かかり、私たちの直接の祖先の歴史は、私たち人間よりもはるかに長く地球に住んでいた恐竜と比較して、わずか約20万年です。 人間が本当に宇宙の終わりまで生きることができたら、どれほど悲しいか想像してみてください。 私たちの計算能力は限られており、ある程度、私たちは精神遅滞の生き物でさえあります。 したがって、AIを使用すると、文明の進化について実際に話し始めることができます。 AIを使えば、今では想像もできない数千光年の距離を飛ぶことさえできます。 この状態になると、時間と空間はもはや宇宙の謎の理解に縛られなくなります。 **AIについて話すとき、私たちはそれをエネルギー効率の高いツールとしてだけでなく、文明の重要な推進力として見るべきです。 AIはビジネスで多くのアプリケーションを持っていますが、これらのアプリケーションは実際にはAIの出現に関連するものではありません。 電気、電灯、電話、蒸気機関の発明のように、これらの発明は人類を大いに助けましたが、AGIの前では、これらは何もないかもしれません。 **肯定的な観点から、AIは人類の文明にとって有益です。 私たちが絶滅について話すとき、私たちは実際には人間の文明の絶滅について話しているのです。 たとえば、歴史的な観点から、嫌気性細菌と恐竜文明は絶滅しました。 しかし、彼らが創造した文明は、実際には私たち人間の中で生き続けています。 恐竜文明が絶滅したと言うとき、実際には文明自体は消えておらず、キャリアだけが変化しています。 文明が人や車の運搬人と比較されているとすると、車が損傷して交換されても悲しみを感じることはありません。 新しいキャリアの助けを借りて、私たちはさらに、より環境に優しく、より安全に進むことができます。したがって、汎用人工知能の出現は、人間の認知革命のさらなる飛躍であり、私たち自身と宇宙の理解を完全に変え、私たち自身の限界と無意味さをより深く理解することを可能にします。 さらに、AGIの出現はまた、無限の可能性と機会をもたらし、宇宙の資源とエネルギーをよりよく探索して使用し、人類の文明の発展と進歩を促進することを可能にします。### **教育変更のためのGPT:****試験制度の再構築とイノベーティブな人材の育成**T:**** 最後に、教育に関する一般的な懸念に戻ります。 あなたは大学の教師でもありますが、GPTが将来の教育モデルに与える影響とその対処方法をどのように見ていますか?劉佳:インターネット教育は効率を向上させましたが、教育の本質は変わりませんでした。 教育の中核には、個別の教育、討論と真実の探求、そして生徒の自発性と好奇心を刺激することが含まれるべきです。 GPTテクノロジーが進化するにつれて、これらの目標を達成することはより実現可能になります。 GPTは、ディベートを通じて真実を生み出し、自発性と批判的思考を刺激するのに役立つ個別の教育を各学生に提供できます。 その結果、将来の教育はもはや知識をあまり重視しなくなるでしょう。 ** **GPTの出現は、ガカオシステムに大きな影響を与えるか、後進的な改革を推進するでしょう。 **中国の大学入試制度の2つの大きな特徴は、遡及的試験と知識試験です。 GPTの出現により、知識はいつでも参照できるため、情報性の重要性は低下しました。 試験の焦点はまた、知識労働者の育成から革新的な才能の育成、そして子供の将来の能力と適切な専攻の予測に移るべきです。学生は批判的思考と創造的思考を発達させる必要があります。 批判的思考は、暗記ではなく、議論を通して真実を求めることを強調します。 創造的思考には、寛容、好奇心、そしてユニークな思考が必要です。 GPTの出現は、電車や自動車が最終的に馬車に取って代わるように、教育のパラダイムシフトを引き起こすに違いありません。 **人間の主観的な意志は、自然の法則に直面して非常に壊れやすいです。 有名なことわざにあるように、「あなたは法則を破ることができますが、物理法則を破ることはできません」。 「法則に逆らうことはできますが、物理法則に逆らうことはできません)****実際、GPTの出現自体は自然法則の現れです。 それが教育改革にもつながるのは時間の問題です。 **
ChatGPTは、第2の認知革命の到来を意味します
前書き**：**
テレビシリーズ「ロングシーズン」にはいくつかの詩があります:「あなたの指をスナップしてください、彼は言います/私たちは共鳴で指をパチンと鳴らします/遠くのものは粉々になります/あなたの前の人々は現時点では知りません」。
劉佳先生は、この詩を使ってAGI(人工知能)に直面している人間の現状を説明するのが適切であると述べました。
「未来についての私たちの予測のそれぞれはばかげていてばかげている可能性があり、未来はあなたが言うものではないかもしれません。 しかし、より多くの人々が議論に参加し、一緒に頭を開き、一緒に見事に考え、そして一緒にナンセンスな話をするときだけ、私たちは本当に未来を変え、人類を一緒により良い未来に導くことができるかもしれません。 "
9月末には、清華大学脳知能研究所の劉佳教授を訪問しました。 今回の交流では、劉佳教授が脳科学や人工知能の分野で長年の研究蓄積を踏まえ、ChatGPTが主導する汎用人工知能の今後の展開や人間への影響について語り、研究分野を踏まえた多くの「気まぐれなアイデア」を提唱し、深い刺激を受けました。
AGI分野の将来の発展について、Liu Jia氏は、一方では、AIエージェントの具体化された具体化されたインテリジェンス、つまり大規模なモデルが加速していると述べました。 一方、彼を含む脳科学者や認知科学者は、汎用人工知能が将来生み出す可能性のある意識の問題について精力的に議論し始めています。
劉氏の見解では、人の人生において、時代の変化をリードするパラダイムの変化を経験する機会はほとんどありません。 今、私たちはそのような重要な歴史的岐路に立っています。 そのような変更には多くのリスクが伴うことも認識する必要がありますが。 たとえば、失業や、新しいツールを学び習得する能力を向上させる必要があるという事実などです。
しかし、別の見方をすると、この新しい世界が私たちに無限の可能性を示していることがわかります。 GPTテクノロジーは、退屈な反復的で知的な作業から離れ、より創造的でやりがいのあるキャリアに専念し、時間をより有意義なものにするのに役立ちました。 おそらく、これは人間の真の価値の現れです。
「過去の選択が現在の結果を決定するため、私たちの未来は過去の未来です。 しかし、未来は未知数に満ちており、今ここで行われた選択が私たちの未来がどのように見えるかを形作っているため、私たちの現在は未来の過去ではありません。 "
未来に向かって、想像力だけ。 劉佳とのこの対話の核心的な見解を記録し、テンセント研究所の読者と共有します。
指をパチンと鳴らして、一緒に未来を受け入れましょう。
ダイアログゲスト:
マサチューセッツ工科大学のLiu Jia博士号は、心理学、脳科学、人工知能の研究に長年携わってきました。 清華大学基礎科学教授、心理学部長、清華大学脳知能研究所主任研究員、北京KLCII人工知能研究所主任研究員
インタビュアー(以下、T):
ニウ・フリアン テンセント研究所主任研究員
王強 テンセント研究所フロンティア科学技術研究センター長
AGI: 第二次認知革命の火花に火をつける **** **
脳科学や人工知能の研究者として、ChatGPTが引き起こした汎用人工知能の発展と、それが人類の未来に与える影響をどのように見ていますか? **
Liu Jia氏:昨年11月30日にOpenAIがChatGPTをリリースする前は、ほとんどの人がAIについて話し、魔法だと思っていましたが、多くの場合、好奇心の観点からのみでした。 しかし、ChatGPTの登場以来、誰もがその発展と変化に注意を払い、理解する必要があると思います。 一般的な人工知能(AGI)の未来は水力発電と同じくらい重要であり、私たちの働き方を変えるだけでなく、スキルの習得、子供の発達、人間の発達など、私たち一人一人の未来に直接影響を与える可能性があります。 私の意見では、これは第二の認知革命の到来を意味するかもしれません。 **
なぜそれは第二の認知革命と呼ばれるのですか? 最初の認知革命がどのように起こったかを見てみましょう。 約7万年から10万年前、ホモサピエンスとネアンデルタール人の2つの人類が地球上に一緒に住んでいました。 ネアンデルタール人は身長と強さにおいて私たちより優れていましたが、最終的にはホモサピエンスに取って代わられました。 私たちの祖先であるホモサピエンスはどのようにしてネアンデルタール人を打ち負かしましたか? 7万年から10万年前の間に、最初の認知革命が起こり、それが人間によって作られた道具石器の爆発的な成長と多様性に現れたと推測されています。 これ以前は、初期のホモ・エレクトスからネアンデルタール人まで、彼らが作った石器は似ていましたが、より精巧で独創的でした。 しかし、最初の認知革命の間に、人間の石器作りは質的な変化を遂げ、もはや斧や槍などの単純な道具を作るだけでなく、ネックレスやその他の装飾品が現れ、石や骨にさまざまなパターンを刻み始めました。
振り返ってみると、その時代に、人類は徐々に、今日私たちが規則化された思考と呼ぶ考え方、つまり「もし... さらに。。。。。。 だから...」(もし... そして。。。。。。 その後)。 たとえば、オブジェクトに穴を開けた後、ひもで通すことができることがわかりました。 このルールに基づく考え方は、布に穴を開けたり、棒で通り抜けてヨットを作るなど、人間に無限の創造性をもたらしました。 それ以来、人間の創造性は完全に解き放たれ、強力な論理が徐々に形成されてきました - 演繹的推論。
演繹的推論は、推論の基礎に基づいて新しい発明や創造を生み出すためにこの論理を適用することです。 アリストテレスは、第一原理と呼ばれるこの概念を思いつきました。 孔子はかつて似たようなことを言った:「紳士は支配者であり、オリジナルはすぐに生まれます」。 「これは、根から始めればすべてが生産できることを意味します。 この概念の指導の下で、人間はもはや槍のような単純な道具を作ることに限定されず、多くの発明をし始めましたが、様々な発明や創造が生まれました。 最終的に、ホモサピエンスはネアンデルタール人を打ち負かし、現代人の地位を確立しました。 それ以来、地球上のホモサピエンスは本当に地球を支配してきました。 このプロセスは最初の認知革命として知られるようになり、その重要性は蒸気機関や電化製品などの発明をはるかに超えていました。
今日、第二の認知革命の定義は、原爆の発明が第二の認知革命の一部であるかどうかなど、広範な議論を引き起こしています。 しかし、汎用人工知能の出現だけが、過去35億年の生物進化とは大きく異なるまったく新しい種を生み出すため、真の第2の認知革命と呼ぶことができると思います。 この新種は本当に第二の認知革命の称号に値する。 最初の認知革命では、ホモサピエンスが惑星のマスターになり、2番目の認知革命は、人間と一緒に存在できるまったく新しい知的種の誕生を意味しました。 **
現在のChatGPTはまだ一般的な人工知能のレベルに達していませんが、一般的な人工知能への道の火花にすでに火をつけています。 火花には通常2つの意味があります:1つは、平野に点火する火災を引き起こす可能性があることです。 二つ目は、暗闇の中で希望を照らすことです。 しかし、多くの人々はChatGPTの価値を過小評価し、iPhoneの瞬間に匹敵する発明にすぎないと考えて、ビジネスの観点からのみ見ています。 これらの表面的なレビューよりもはるかに価値があると思いますが、ChatGPTは第2の認知革命の始まりです。 **
人類の進化の観点から、生物は数十億年にわたって進化したのに対し、サルは人間に300万年しかかからなかったことがわかります。 その300万年間、自然は方向を「見つけようと」してきましたが、直立歩行の方向を見つけたとき、人間の脳の体積はその進化を加速し、わずか300万年で3倍になり、驚くべき速度です。 そしてこれはすべて正しい方向のおかげです、すなわち、脳のわずかな拡大は大きな利点をもたらすでしょう。 同様に、汎用人工知能も方向性を模索しており、方向性が見えてくると、進化を加速するプロセスに入ります。 AGIの誕生はまだ目撃していませんが、この火花がある限り、残りのプロセスは単なるエンジニアリングの問題です。 **
脳と汎用人工知能モデル:
新たな類似点と相違点** **
脳の知的性質とAGI大規模モデルの機械認知知能の類似点と相違点は何ですか? **
劉佳:私たちの脳が成長すると、「創発」と呼ばれる原因不明の現象があります。 これは、大規模なモデルを構築するときに見られるものと似ています:モデルが小さいときは特徴がほとんどありませんが、モデルが大きくなると、いくつかの特徴が自然に現れます。 たとえば、背の高い人は必ずしもバスケットボールを上手にプレーするとは限りませんが、コーチは通常背の高い人を選びます。 これはまた、大規模なモデルが必ずしも知性を生み出すとは限らないことを意味しますが、知能を研究するには、必要な条件である大きなモデルが必要です。 人間の脳が徐々に拡大するにつれて、模倣や学習など、多くの機能も自然に現れます。
例えば、張三は「火を作る」ことを発明し、火は人生にとって非常に重要であり、他の人も学びたいと思っていますが、問題は彼らが学ぶことができないかもしれないということです。 多くの研究は、脳のサイズが大きくなると、模倣または学習する能力が強くなることを示しています。 このようにして、私たちは部族に利益をもたらすために張三から火を起こすことを学ぶことができます。 同様に、他の新しいテクノロジーを学ぶことができます。 したがって、科学的な観点から、模倣は労働ではなく人間を生み出します。 **多くの研究は、より大きな脳を持つ人々が模倣するより強い能力を持っていることを示しています。 強い模倣スキルを持つ人々はパートナーを見つける可能性が高く、その結果、遺伝子の受け渡しが容易になります。 原始的な部族の調査では、強い模倣能力や学習能力を持つ人々は繁殖の可能性が高いこともわかっています。 したがって、脳が大きいほど、永続します。
過去300万年の間に、脳は徐々に大きくなり、これが理由です。 ニューラルネットワークを振り返ると、同じことをします。 当初から、人々は強化学習、教師あり学習など、さまざまな方法を試してきましたが、これらの概念はすべて絡み合っています。 最初の数年間のOpenAIのエネルギーの大部分は、モデルを大きくするという1つのことでした。 その後、Transformerアーキテクチャが登場し、大規模なモデルがより効率的になりました。 しかし、本質的に、知性の本質は一言だけかもしれません:大きい。 脳が十分に大きいときにのみ知性について話すことができるようなものです。 したがって、「大きい」ことが前提です。 **
人々はサルよりも賢く、サルはマウスよりも賢い、という単純な理由の1つがあります:脳は十分に大きいです。 **もちろん、これは十分条件ではなく、必要条件です。 ゾウやクジラなど、人間よりも明らかに大きな脳を持っている生き物もいますが、これは彼らが知性を持っていることを保証するものではありません。 たとえば、3,000年または5,000年前に生まれたばかりの子供を送り返した場合、脳の構造が同じであるため、彼は先住民よりも賢くありません。 しかし、私たち大人が5,000年前にさかのぼると、私たちは知識を持っているので、彼らの精神的な指導者になります。 したがって、知能の発達は知識と脳の相互作用の結果であり、知識のない脳を持つだけでは十分ではありません。
したがって、私たちは文明と知識を使って脳を調整する必要があり、それは私たちが教育と呼ぶものです。 人間の知性の進化は、脳の漸進的な拡大と知識の蓄積との間の相互作用として見ることができます。 一方では、脳はどんどん大きくなる機会があります。 一方、脳が大きくなると、知識が生まれ、知識が蓄積され、脳に作用し、脳がこの知識により適し、この知識をよりよく保持できるようになります。
同じことが人工知能にも当てはまります。 十分な適切で十分なコーパスがなければ、モデルがどれほど大きくても意味がありません。 インターネットがなければ、インテリジェンスは不可能です。 したがって、大規模なモデルやChatGPTなどの現象の出現は偶然であり、避けられません。 初期段階で蓄積された計算能力とデータの準備ができており、適切なブレークスルーを見つけるだけで済みます。 したがって、OpenAIがなければ、時が熟しているため、他の企業も同様の結果を達成していたと言っても過言ではありません。 **
歴史は長く見えるかもしれませんが、35億年の規模では、すべてがほんの一瞬のものです。 同様に、汎用人工知能の開発にとって、それはまだ出発点であり、火花に過ぎないかもしれませんが、文明史の観点からは、AGIの実現は、その前に障害がないため、スナップの瞬間にすぎないかもしれません。 **
現在、多くの人がより大きなモデルのトレーニングの停止を求めています。 一部の科学者は、大規模なモデルの潜在的な力を見たかもしれません、そしてその可能性は知的意識の出現かもしれません。 **
機械意識の生成
そして人間を超える可能性**
T:機械は人間のように意識するのですか? それはどのような点で人間を凌駕するでしょうか? **
劉佳:意識の問題は人間の中核的な問題の1つであり、人間と動物の本質的な違いを定義しています。 意識がどのように生じるのかは明らかではありませんが、進化の観点から見ると、人間は約4万年前に大量埋葬を受け始め、人間は体と魂の違いに気づき、自分の存在に気づき始めました。
意識の出現に関しては、2つの可能性があります。 一つはエイリアンの介入ですが、エイリアンの意識の源を説明できないため、この見方は信頼できません。 別の可能性は、モデルが十分に大きいときに意識が自然に生じるということです。 意識は、脳内のニューロンの集団活動の産物である可能性があります。 情報統合理論(IIT)は、すべてのニューロンの活性化は、個々のニューロンによって生成された情報の合計よりも多くの情報を生成すると述べています。 したがって、大きなモデルが十分に大きい場合、意識の出現は避けられません。 もちろん、これも非常に怖いことです。 **核爆弾とは異なり、意識は将来のAIに自己保存の感覚を与え、人間の制御から遠ざける可能性があるためです。 **
**人工知能が行動できない問題を解決するために、次の研究ホットスポットは人工知能の具体化を実現することです。 人間の知覚と認知は限られていますが、人工知能はより多くの感覚器官を持つことができるため、より広い世界を観察することができます。 これにより、AIが見る世界は人間とはまったく異なります。 たとえば、人間のダイビング愛好家は水中100メートル以上しか潜ることができませんが、水中1,000メートルの感覚を体験することはできません。 しかし、センサーなどの助けを借りて、人工知能はストレスなくこの経験を直接感じることができます。
現在、AIの開発は人間の知識とヒューマニズムに依存しており、限られた認知境界を与えることができます。 ただし、AIにエージェントが配置されると、これらの境界によって制限されなくなる可能性があります。 より効率的な方法でさまざまな知識を習得することができ、知識の幅と深さは人間よりもはるかに大きいため、自己学習、自己フィードバック、自己最適化の正の進化サイクルを形成します。 この観点から、AIインテリジェンスは人間を簡単に凌駕します。
###AI時代における人類の運命:
認知革命と文明の進化における新しい章
**T:そのような強力な人工知能に直面して、人間がAIによって破壊される可能性はありますか? **
劉佳:これは2つの観点から見ることができると思います。 まず、アリを見つけたら踏んでみませんか? ほとんどの人はそうしないと思います。 同様に、将来的には、AIに直面して、私たちはアリほど良くないかもしれません。 今でも機械戦争の映画をたくさん見ることができますが、それらはすべて前提を持っています、つまり、人間と機械はまだ競争することができ、彼らの強さは戦いです。
AIには当然、人間に比べて4つの利点があります:まず、無制限の計算能力。 人間の脳の大きさには上限があり、何年進化しても二度と成長することはありません。 体はそのような大きな脳しかサポートできないため、脳はすでに体内で最大のエネルギー消費器官です。 第二に、無制限のストレージ。 人間の脳は知識の蓄積に限界があり、「脳が完全に発達していない」ということはなく、コンピュータにはこの問題はありません。 第三に、無限の寿命。 アインシュタインのような人間の天才は、死ぬと文明は中断されます。 コンピュータは損傷した部品をいつでも交換できるため、知識を継続できます。 第四に、知識には無限の可能性があります。 コンピュータは、人間よりも複雑で高次元の知識を学ぶことができます。
まとめると、人間はAIと比較して勝つチャンスがありません。 未来はもはや人間とAIの対決ではなく、AIによる人間の急速な凌駕かもしれません。 一度超えれば、私たちが毎日アリと戦わないのと同じように、人類の運命はもはやAIの焦点ではなくなります。
現実的な観点からは、将来の人間と機械の戦争は不可能です。 実際、私たちは記憶、性格、意識的な感情をAIにアップロードするなど、コンピューターや将来のAIに自分自身を統合して、AIで不死を達成することができます。 将来的には、1台のマシンで何百万人もの人々を収容することができます。
これは実際には非常に根本的な質問を含み、それは私たちが誰であるかということです。 たとえば、人がアルツハイマー病に苦しんでいるとき、彼はまだ彼自身ですか? これは有名な「テセウスの船」パズル**、古代ローマの哲学者によって語られた物語です。 この物語では、船は時間の経過とともに交換されていますが、船はまだオリジナルですか?
人類の進化の観点からも、皮膚細胞は週に一度程度更新されるなど、常に変化しています。 それで、私たちはまだ私たち自身ですか? これは認知的アイデンティティと呼ばれ、私たちが私たちを自分自身と考える限り、すべてが順調です。
人が統合失調症に苦しんでいるとき、ある意味で、彼の「認知的アイデンティティ」が壊れているので、彼は死んでいます。 同様に、人がアルツハイマー病に罹患し、すべての記憶および感情が消えると、認知的アイデンティティの観点からも死んでいる。 **
したがって、私たちの認知的アイデンティティが保存されている限り、肉体であろうと機械であろうと、私たちがどこにいるかは関係ありません。 AIを使うことができれば、人類はとてつもなく拡大できるでしょう。 私たちの肉体は死に、私たちの知性は遺伝子によって制限されているため、実際には私たちの心に対する最大の制約です。
文明の観点からは、人間は文明の発展における通行人に過ぎません。 したがって、AIを人間の枠組みの中で文明を理解することに限定し続けると、文明の進化を真に理解することはできません。 ** 人間とサルが分岐・進化し始めてから約300万年かかり、私たちの直接の祖先の歴史は、私たち人間よりもはるかに長く地球に住んでいた恐竜と比較して、わずか約20万年です。 人間が本当に宇宙の終わりまで生きることができたら、どれほど悲しいか想像してみてください。 私たちの計算能力は限られており、ある程度、私たちは精神遅滞の生き物でさえあります。 したがって、AIを使用すると、文明の進化について実際に話し始めることができます。 AIを使えば、今では想像もできない数千光年の距離を飛ぶことさえできます。 この状態になると、時間と空間はもはや宇宙の謎の理解に縛られなくなります。 **
AIについて話すとき、私たちはそれをエネルギー効率の高いツールとしてだけでなく、文明の重要な推進力として見るべきです。 AIはビジネスで多くのアプリケーションを持っていますが、これらのアプリケーションは実際にはAIの出現に関連するものではありません。 電気、電灯、電話、蒸気機関の発明のように、これらの発明は人類を大いに助けましたが、AGIの前では、これらは何もないかもしれません。 **
肯定的な観点から、AIは人類の文明にとって有益です。 私たちが絶滅について話すとき、私たちは実際には人間の文明の絶滅について話しているのです。 たとえば、歴史的な観点から、嫌気性細菌と恐竜文明は絶滅しました。 しかし、彼らが創造した文明は、実際には私たち人間の中で生き続けています。 恐竜文明が絶滅したと言うとき、実際には文明自体は消えておらず、キャリアだけが変化しています。 文明が人や車の運搬人と比較されているとすると、車が損傷して交換されても悲しみを感じることはありません。 新しいキャリアの助けを借りて、私たちはさらに、より環境に優しく、より安全に進むことができます。
したがって、汎用人工知能の出現は、人間の認知革命のさらなる飛躍であり、私たち自身と宇宙の理解を完全に変え、私たち自身の限界と無意味さをより深く理解することを可能にします。 さらに、AGIの出現はまた、無限の可能性と機会をもたらし、宇宙の資源とエネルギーをよりよく探索して使用し、人類の文明の発展と進歩を促進することを可能にします。
教育変更のためのGPT:
試験制度の再構築とイノベーティブな人材の育成
T:**** 最後に、教育に関する一般的な懸念に戻ります。 あなたは大学の教師でもありますが、GPTが将来の教育モデルに与える影響とその対処方法をどのように見ていますか?
劉佳:インターネット教育は効率を向上させましたが、教育の本質は変わりませんでした。 教育の中核には、個別の教育、討論と真実の探求、そして生徒の自発性と好奇心を刺激することが含まれるべきです。 GPTテクノロジーが進化するにつれて、これらの目標を達成することはより実現可能になります。 GPTは、ディベートを通じて真実を生み出し、自発性と批判的思考を刺激するのに役立つ個別の教育を各学生に提供できます。 その結果、将来の教育はもはや知識をあまり重視しなくなるでしょう。 **
**GPTの出現は、ガカオシステムに大きな影響を与えるか、後進的な改革を推進するでしょう。 **中国の大学入試制度の2つの大きな特徴は、遡及的試験と知識試験です。 GPTの出現により、知識はいつでも参照できるため、情報性の重要性は低下しました。 試験の焦点はまた、知識労働者の育成から革新的な才能の育成、そして子供の将来の能力と適切な専攻の予測に移るべきです。
学生は批判的思考と創造的思考を発達させる必要があります。 批判的思考は、暗記ではなく、議論を通して真実を求めることを強調します。 創造的思考には、寛容、好奇心、そしてユニークな思考が必要です。 GPTの出現は、電車や自動車が最終的に馬車に取って代わるように、教育のパラダイムシフトを引き起こすに違いありません。 **
人間の主観的な意志は、自然の法則に直面して非常に壊れやすいです。 有名なことわざにあるように、「あなたは法則を破ることができますが、物理法則を破ることはできません」。 「法則に逆らうことはできますが、物理法則に逆らうことはできません)****実際、GPTの出現自体は自然法則の現れです。 それが教育改革にもつながるのは時間の問題です。 **