ケビン・ケリーとの会話: AIを規制するには時期尚早であり、「制御不能」を許容すべきである

対談： 張鵬、李志飛 企画：魏詩傑、李詩雲

画像ソース: Unbounded AI によって生成‌

30 年前、インターネットがまだ黎明期にあり、パーソナル コンピューターさえ珍しかった頃、あるテクノロジー ライターが当時のあらゆる階層を自分の最前線で放浪し始めました。世界で最も聡明な頭脳を持つ人々と話し、彼は大著『Out of Control』（1994 年）で頂点に達する未来の一部を垣間見た。それから10数年後、モバイルインターネットやスマートフォンの時代が到来するまで、人々は「地球規模の情報相互接続、分散システム、デジタル通貨、クラウドコンピューティングなど」という最新の概念がずっと前から予言されていたことに驚きました。本。

テクノロジーライターはKKとしても知られるケビン・ケリーです。彼は「ワイアード」誌の創設者であり、テクノロジー観察者であり、「預言者」でもあります。 2010年には中国版「アウト・オブ・コントロール」が発売され、KKも中国訪問を開始し、徐々に中国人に親しまれるようになった。

今日の結節点に立つと、汎用人工知能 (AGI) が芽生え、時代の革命が始まろうとしています。それは、著書『アウト オブ コントロール』の予言をかすかに反映しています。 KK氏は当時、人間は最終的には機械と統合するだろうと予測し、「機械は生物学的になり、生物は工学的になりつつある」と語った。彼自身の言葉によれば、『アウト・オブ・コントロール』はただ 1 つのこと、それは「複雑なシステム」を構築する方法についてのみ語っています。ロボット、人工知能 (AI) などは複雑なシステムとみなすことができ、彼はこの考えが信じていると信じています。は現在でも適用されます。

少し前に、私たちは大手モデルの新興企業 Going の創設者兼 CEO である Li Zhifei と一緒に KK と会話をしました。

前者はテクノロジーとビジネスという実践的な観点から、後者は人類、歴史、さらには宇宙という抽象的な観点から、人工知能の台頭、影響、脅威について論じています。これはかなり「SF的」かつ「想像的」な議論であり、人類と人工知能の未来を再び「予測」してみます。

両者とも、人類史上初めて、今日の人工知能は生命体に似た形をとったと主張している。李志飛氏は、現在のAIはすでに人間の子供のIQに相当し、知識、論理、推論、計画などの真の一般的な知能能力を備えていると述べた。そして KK は、AI は「シリコンベースの生命」として、人間と同じように適応力があり、自ら学習して成長できるようになると信じています。

非常に似ていて、どちらも技術的な楽観主義を受け入れています。 KK氏は、AIは人間を失業させるのではなく、人間をより効率的にし、「忌まわしい」仕事から解放するだけだと信じている。 AI は富裕層と貧困層の間の格差を広げるように見えますが、人類の歴史におけるすべての技術革新と同様に、ケーキをより大きくより良くすることで公平性と正義を達成する可能性が高くなります。ビジネスへの影響という点では、個人、中小企業、大企業に同時に力を与えることになります。

本の名前「Out of Control」が示すように、ケビン・ケリーは、AI の力をよりよく活用するために、人間は AI の一部が「制御不能になる」ことを許可すべきだと信じています。結局のところ、ChatGPTは人間の制御不能な「創発」状態で生まれました。彼も李志飛も、現在のAIの知能はまだ未熟であり、人間は時期尚早で過度に制御（監視）するのではなく、手放し続けるべきだと考えている。後者は、初期段階のイノベーションを抑制する可能性があります。

もっと長い目で見ると、いつか本当にAIが超生命体になったら、人間はどうやってAIと付き合っていけばいいのでしょうか？

SF も映画も、AI が人間を殺すために目覚めるという結末で終わる暗い未来を描いています。しかし、ケビン・ケリーは、これは人間の想像力の欠如の現れであると信じています。成功よりも失敗の方が常に想像しやすく、また、物語にとっても魅力的です。将来に関しては、人工知能の利点と価値を想像するのは難しくありません。

彼の提案は、AIを「人工宇宙人」とみなすことができ、人類はAIの知恵を利用して自らの問題を解決し、ある程度の「制御」を達成できるようになるだろう、というものだ。李志飛氏は、AIの「祖先」として、人間は最終的にはAIを制御するのではなく、AIと融合するだろうと信じている。

この予言が当たるかどうかは、5000日後の世界にかかっています。

会話の全文は以下の通り。

01 OpenAI が ChatGPT を作らなかったとしても、他の企業がすぐに作るでしょう

**張鵬：中国でも米国でも、最近は大型モデルの議論が盛んです。大型モデルにおけるこの技術変化の波についてどう思いますか?とてもショックを受けますか？ **

ケビン ケリー: 人工知能 (AI) は数十年前から存在しています。 AI モデルがニューラル ネットワークとディープ ラーニングを採用し始めたとき、大きな飛躍が起こり、モデルはますます大きくなりました。 4、5 年ほど前から、非常に大きなトランスフォーマー モデル (自己注意メカニズムを備えた深層学習モデル) の作成を開始しました。過去 2 年間で、大規模な言語モデルとインターフェイスし始めました。

実際、最近の AI の大きな変化はその能力ではなく、この点でのパフォーマンスはそれほど向上していません。 **最近 AI で本当に変わったのは、実際に (自然な) 言語で AI と通信できる会話型ユーザー インターフェイスが可能になったことです。それ以前は、AI を使用するには、多くのプログラミング知識を学び、熟練する必要がありました。しかし今では、突然誰もが AI を使用するようになりました。それが本当にエキサイティングな部分です。 **

Li Zhifei: KK 氏の意見に同意します。現在の大規模言語モデルの主な変更点は、自然言語対話機能の向上です。これはまさに多くの一般人が感じられることであり、だからこそChatGPTは今日これほど大きな社会的影響力を持っているのです。

しかし、今日の大規模モデルの機能には多くのバリエーションがあり、そのバリエーションこそが自然な相互作用を可能にしているのだと思います。なぜなら、自然なインタラクションを実現する裏には、AIが持つ高い知識、理解力、言語能力、推論・計画能力などが必要だからです。自然言語による対話を実現するには、AI がこれらの基本的な機能で画期的な進歩を遂げる必要があります。

そして、将来の大規模モデルの能力は自然言語対話だけではないと思います。プログラムの作成、企業の自動化プロセス、ロボットの自動化などは対話型ではありませんが、将来的には可能になるでしょう。

**Zhang Peng: AI が人間とより良くコミュニケーションできるようになると、テクノロジーとビジネスにパラダイム シフトがもたらされるという点に私は非常に同意します。 ChatGPT が AI 開発の第 2 曲線である場合、その登場は必然でしょうか、それとも偶然でしょうか? **

**Kevin Kelly:**ChatGPT はあらゆる期待を超えることができます。 **これはAI分野の人も含めて誰も予想していなかったと思います。実際、ほとんどの研究者は ChatGPT がどのように機能するかを知らず、それを改善しようとしますが、それがどのように機能するかを知らないため、それは困難です。したがって、ChatGPT の登場は偶然でした。 **

ChatGPT は非常に驚くべきものですが、限界もあります。 **その主な制限は、モデルが人間が作成した平均的なコンテンツに基づいてトレーニングされているため、平均的な結果が生成される傾向があることです。そして、私たちが望むのは平均ではなく、平均を上回る何かです。 **これは難しいです。

第 2 に、これらのモデルは正確さではなく、妥当性を重視して最適化されています。したがって、それらをより正確にする方法は、現在誰もが取り組んでいる大きな課題です。

Li Zhifei: ChatGPT の出現は短期的には偶然ですが、長期的には必然だと思います。 OpenAIが昨年末にChatGPTを作ったのは偶然とも言えるが、たとえ作れなかったとしても、すぐに他の企業が作るだろう。 **

これはテクノロジーの歴史の中で何度も繰り返されてきました。ディープラーニングを例にとると、AlexNet は 2012 年に最初に画像アノテーションを作成しましたが、当時は、強い信念とエンジニアリング能力を持つ多くのチームもそれを行っていました。さらに、Google は 2017 年に RNN や LSTM などのシーケンス モデルのスケーラビリティの低さの問題を解決するためのトランスフォーマーを作成しました。

**ChatGPT 誕生の背景には、トランスフォーマーがすでに非常に成熟しており、インターネットの膨大なデータを学習するための強力な計算能力があり、ChatGPT に必要なすべての要素がすでに利用可能であり、その誕生は必然でした。 **それは、OpenAI がその時点で最もよくまとめたというだけのことです。

**張鵬: 必然性と偶発性について話すときに、最近よく使われている「創発」という言葉を思い出しました。 KKの『アウト・オブ・コントロール』には少なくとも88回も登場するこの言葉ですが、今日私たちはこの言葉の意味をどう理解すればよいのでしょうか？ **

ケビン・ケリー: 英語の観点から見ると、「創発」とは、システムの動作、インターネット、ロボット、身体、エコシステム、さらにはシステム全体など、相互に接続されたもの全体の動作を指す用語です。単一の部分の動作にその動作が含まれない世界。たとえば、巣は一匹のミツバチの生涯を超えて物事を記憶できるため、巣自体は個々の部分にはない行動、能力、力を持っています。これを「創発」と呼びます。

同様に、生成されている AI の多くも「新興」です。モデル内にはそれがどこから来たのかを説明する箇所がないため、この新しい機能を生み出すにはすべての部分が連携する必要があります。私たちの脳に「思考」がないのと同じように、ニューロン全体から「思考」が「出現」します。 **思考、進化、学習などはすべてシステムから「出現」する可能性があります。

Li Zhifei:「創発」についての私の理解は、「より多くのものは異なる」と「より多くのものは異なるもの」について述べている本「Complexity」から来ています。中国の古いことわざのように、「量的変化は質的変化をもたらす」。ビッグモデルが初めて「創発」について語ったのは、昨年末にスタンフォード大学とグーグルが発表した記事だった。彼らは実験を通じて、大きなモデルのサイズを大きくすると、特定の臨界点に達すると、特定の容量で突然「出現」することを発見しました。

「創発」という言葉は実は使いすぎているのではないかと今は感じています。大規模モデルの能力がどのようにして生じるのか説明できないため、私たちはそれを「創発」と呼びますが、この言葉は説明も操作もできず、大規模モデルの訓練や適用には役立ちません。現在、誰もがもはや「創発」を研究しているのではなく、大規模モデルのパラメータ量と最終的なパフォーマンスの間の定量的関係についての研究が増えています。これは、大規模モデルを理解して制御するのにより役立つ可能性があります。

**張鵬: 「創発」は「制御の喪失」につながると理解できますか? **

ケビン・ケリー: この理解は完全に正しいわけではありません。もちろん、「制御不能な部分」もあるでしょう。「創発」行動の力を使いたいのであれば、制御不能な部分を許容する必要があるかもしれません。現時点では AI の理解と制御が十分ではないかもしれませんが、最適な結果を得るには実際には必要です。

しかし同時に、すべてを「制御不能」にすることはできず、ある程度の「制御」、つまり人工知能を誘導および管理する必要があります。 繰り返しになりますが、過度に制限することは望ましくありませんが、ある程度の制御は達成する必要があります。ただし、私たちがそれらを完全に制御することはおそらく決してできないでしょう、特により強力な人工知能の場合、それらがどのように機能するかを完全に理解することはおそらく決してないでしょう。それがトレードオフです。

**張鵬: あなたが本『アウト オブ コントロール』を書いてから何年も経ちますが、AI 革命の波と組み合わせた今日この時点で、『アウト オブ コントロール』に価値のある部分はあると思いますか?再調整中? **

ケビン・ケリー: 『アウト・オブ・コントロール』という本の中で人工知能とアウト・オブ・コントロールについてはあまり話していないと思いますが、実際には主に単純なものを複雑なものに変える方法について話しています。ロドニー・ブルックスのサブシステム・アーキテクチャーと呼ばれるものがあり、それに知能の一部を組み込むことで複雑なロボットを作成できると述べています。複雑さをもたらすプロセスは、すでに機能しているものの上に何かを重ねることです。 (ブルックスのアーキテクチャ理論では、高レベルの動作には低レベルの動作が含まれる必要があると提案されています)。

**昆虫と同じように、首を切り落としても、歩くという機能が部分的に完成されているため、まだ歩くことができます。私たちの脳には、呼吸やその他の自律機能を担うコアがあるのと同じように、その上にさらに複雑な層が追加されます。この考えは、人々がロボットや人工知能を作り、それらをより複雑にしようとする今日でも有効です。 **これは実際に私が「アウト・オブ・コントロール」で話している唯一のことであり、その要点は依然として有効であると思います。

**張鵬: 以前、あなたが興味深い視点を持っていたのを覚えています。それは、「テクノロジーを一種の生命であると仮定する」というもので、テクノロジーが人間に近い知性を持って出現したとき、次に何を求めるのでしょうか?これはビジネスの世界や人間社会にどのような影響を与えるのでしょうか？ **

**ケビン・ケリー:**テクノロジーは私が「人生の第 7 王国」と呼んでいるものです。私たちは、もはや「湿った」環境を必要とせず、シリコン内に存在できる「乾燥した」領域への生命の進化を加速しました。私たちは心を使って、他の生命に似たテクノロジーを作り出すことができます。彼らは順応性があり、学習して成長することができます。

私が言いたいのは、テクノロジーは基本的に生命と同じものを追求しているということです。たとえば、それらは進化するにつれて多様性が増し、より専門的かつ具体的になるでしょう。私たちの体には、心臓細胞、骨細胞、骨細胞など、52 種類の細胞があります。また、言語翻訳、画像生成、自動運転などの特定のタスクを実行する特殊な AI も作成します。 **さらに、テクノロジーは生命と同じようにより複雑になることは明らかです。

最終的には、テクノロジーも生命と同じように「互恵・共生」することになるでしょう。生命は非常に複雑に進化したため、他の生命とのみ接触し、無生物とは決して接触しなくなりました。腸内の細菌のようなものです。それらは他の生きた細胞によってのみ囲まれています。 ** 将来的には、人間向けに設計されたものではなく、他の AI に役立つように設計された AI も登場するでしょう。たとえば、他の AI のメンテナンスに特化した AI や、他の AI とのみ通信する AI が存在します。 **

**Li Zhifei:**AI と生命の関係についてエンジニアの視点から説明したいと思います。数年前、多くの人がいつも私に「アルファ碁 (囲碁の世界チャンピオンを破った最初のコンピューター プログラム) の IQ は何歳ですか?」と尋ねました。当時、私はこの種の質問が好きではありませんでした。答えないよ。当時のAIは囲碁ができてIQも高かったものの、3歳児のような自然言語での会話はできませんでした。当時、その仕組みは人間とは根本的に異なっていました。

しかし最近、私は特に AI を子供に喩えるのが好きです。その核心は、今日の AI が、知識、論理、推論、計画など、子供たちが持つ真の一般的な知能能力をすでに備えているからだと思います。 **つまり、今日の AI はむしろ生命体に似ていると言いたいのです。データを見たかどうかに応じて、5歳児のIQと大学教授、さらには生まれたばかりの赤ちゃんの知識を持っています。 **

この理解に基づいて、AIが本当に望んでいることをもう一度考える必要があると思います。 5歳児の場合、まず自己浄化を行い、次に自己複製と協力を行います。私自身、この質問に対する良い答えがありません。

02 今後 5000 日間、私たちは狭くて緊急の移行期間を経ることになります

**張鵬氏: AI の能力が急速に成長すると、多くの一般人は競争力を失うのではないかと不安や恐怖を感じます。 KK はこの問題について何か考えや提案はありますか? **

**ケビン・ケリー:**AI テクノロジーは 20 年間にわたって開発されてきましたが、人々はそれが一夜にして成功したと感じており、その成長率と機能に不安を感じています。 **私たちは常に、最良のシナリオよりも最悪のシナリオを想像する傾向があります。変化への不安に対処する方法の 1 つは、過去を振り返ることだと思います。実際、人間は過去にもこの種の不安を抱いたことはありますが、私たちが想像していた最悪のシナリオでは一度もありませんでした。今回も同様の可能性が高い。 **

不安に対処する最善の方法は、不安を利用してみることです。不安の多くはAIを使ったことのない人から来ていて、AIに対して距離感を持っていることが多いと思います。実際、AI を試して使い始めると、AI には利点、限界、害の両方があることがわかります。そうすれば彼らの不安は軽減されます。

Li Zhifei: AGI が今日起こらなくても、明日には起こるでしょう。それは止められないので、それを受け入れて理解する必要があります。今の私にとってAGIは考えるパートナーです。色々な悩みを相談させていただきますが、知識が豊富で幅広い視点からアドバイスを頂けます。これは人間がAIを受け入れる良い形なのかもしれないと思います。

同時に、今日の大規模モデルには、実際の AGI の重要な機能がまだ不足していることがわかります。例えば、論理的な推論や複雑なタスクの計画を立てる能力ですが、ある目標に基づいてステップを分解して目標を達成することをAIに求めると、現状ではそれほど優れていません。

**張鵬：KKさんもコンテンツクリエイターですが、AI時代においてAIに代替できないクリエイターの究極の価値は何だと思いますか？ **

ケビン・ケリー: 私は執筆に人工知能やその他のツールを使用してきました。 AIのせいで職を失う人はいないと思います。 **AIのせいでアーティストが職を失った例は一つも見つからないからです。それは想像上の恐怖であり、存在しない問題です。 AI に関連する問題の中で、雇用はおそらく最も深刻ではありません。 **

私が言いたいのは、なくなったものはあなたの職務内容、つまりあなたが実際にやっていることが変わるかもしれないということです。 ** 一部の人々は、自分の仕事の 50% は AI によって実行でき、残りの 50% は AI によって強化され、増幅されるだろうと観察しています。 **つまり、将来的には、作業の半分は人が行う必要がなくなり、残りの 50% の作業は人がより適切に行えるようになるかもしれません。これは通常よく見られるパターンです。

**もちろん、食べ物の注文やレジ係としてお金を数えるなど、特定の種類の仕事はなくなります。こういう仕事は人間にはやってほしくないので、必ず消えていきますし、消えるべきです。 **

**張鵬: AI時代における老若男女の競争力をどのように評価していますか? **

ケビン・ケリー: 高齢者には多くの利点があり、知識と経験が豊富です。若い人たちは何が不可能かを知らないので、多くの利点もあります。誰よりも競争力がある人はいないと思います。

今日の若者は、デジタル ネイティブであることやテクノロジーに対する優位性についてよく話します。しかし、人工知能などの急速な発展により、若者は昨日までは先住民でしたが、明日には「老人」のようになるかもしれません。老若男女問わず、誰もが新しい時代の「初心者」であり、生涯を通じて新しいことを早く学び続けなければなりません。

**Zhang Peng: AI テクノロジーの習熟度が異なると、貧富の差に変化が生じるでしょうか?つまり、将来 AI を使用する人々の生産性は向上し、競争力も向上するのでしょうか? **

ケビン・ケリー: はい、貧富の格差は拡大するでしょう。 **時間が経つにつれて、大学に行くか行かないかよりも、人工知能を扱う能力の方が重要になるかもしれないと思います。おそらく大学の目的は、人工知能の使い方を教えることになるでしょう。非常に野心的な人にとって、人工知能の使い方を学べば、給料は大きく変わります。 **

しかし、AIが世界中に普及するにつれて、将来的には、教育への平等なアクセスと同じように、AIへの世界中の平等なアクセスが実現されるでしょう。米国で大企業を経営している友人を知っていますが、彼らはリモートで働く従業員を雇用しています。可能な限り、経歴は関係ありません。したがって、南米やアフリカで働く多くの人々は、アメリカの給与基準に従って支払われることになる。彼らはそうでない場合よりも多くのお金を稼ぐでしょう。

**張鵬: テクノロジーの急速な発展は社会分野に不公平や不公平をもたらす可能性がありますが、発展と公平・正義の間でどのようにバランスを取るべきでしょうか? **

ケビン・ケリー: 進歩と公平性の間でバランスを取ることができると思います。実際、進歩の大きな部分は公平性を広めることだと思います。

数百年前と比べて、世界は非常に不公平でした。あなたは奴隷、農奴、または農民として生まれました、そしてそれを超えるチャンスはありませんでした。しかし進歩のおかげで、私たちは今、より平等で公平な世界を手に入れています。テクノロジーの発展によって公平性は高まると思いますが、実現はしないかもしれませんが、実現することは可能です。

**李志飛:エンジニアの観点から公平性を最終点から見て、誰もが同じ富と能力レベルを持つことを望むなら、それは間違いなくますます不公平につながるでしょう。しかし、AIツールを誰もが利用できるようにするなど、公平性を出発点から考えると、公平性を達成するためにはその方が良いのかもしれません。 **

**Zhang Peng: 現在、ヴィンセント・グラフの会社であるミッドジャーニーのような一部の企業では、十数人の従業員が年間数億ドルの収入を生み出すことができることがわかりました。 AI が生産性を根本的に変えたことを理解できますか?その結果、将来の企業はより小さくスリムになるでしょうか? **

ケビン ケリー: インターネットと人工知能が現在持つ驚くべき力は、個人、中堅企業、大企業に同時に力を与えることができます。個人が会社を所有することが容易になるため、AI と数人の人間だけの新しい会社がたくさん登場するでしょう。しかし同時に、人工知能の存在によって企業が大きくなり、従業員の規模が 100 万人にまで増加する企業も見てきました。

**したがって、私たちはたった 1 人か 2 人だけの会社の世界に突然参入するつもりはありません。それは起こりません。同時に、私たちは大企業だけに利益をもたらすわけではありません。それが AI の利点であり、AI はすべての人に利益をもたらし、力を与えることができます。 **

Li Zhifei: ロングテール効果とマシュー効果はますます顕著になると思います。

一方で、尻尾はどんどん長くなり、小規模な企業がどんどん現れ、それらだけで完成されたシステムになっていきます。一方で、大企業が強いAI能力を持っていれば、組織力も強くなります。以前は 1,000 人しか組織できませんでしたが、現在は 10,000、100,000、または 100 万人を組織できるようになりました。たとえば、中国の食品配達業界は、巨大な乗客グループを組織するために完全な自動化システムに依存しています。

**張鵬氏：現在、シリコンバレーでもAIが最もホットなテーマであり、多くの起業家が大型モデルを核としてビジネスイノベーションを考えています。 KKはこれに関して何か意見はありますか？ **

ケビン・ケリー: これを聞くと、インターネットの初期の頃を思い出します。インターネットが初めて登場したとき、突然、すべての企業がインターネットに参入する必要があることに気づきました。そして現在、あらゆる企業がビジネスを行うために大規模な言語モデルと人工知能を導入することにより、AI の会話インターフェイスを活用しています。その一例は、流行のファストフード ハンバーガー店であるウェンディーズです。現在、会話型インターフェイスが使用されており、顧客は車内で食べ物を注文し、機械に話しかけることができます。

さらに、まだ登場していないまったく新しいサービスやアイデアがいくつかあります。正確な数字は分かりませんが、確かにわかっているのは、今この分野に数千億ドルが流れ込んでいるということです。多くの場合、そのほとんどはおそらく成功しませんが、十分な数は成功するでしょう。今後 3 年間で、いくつかの非常に驚くべき出来事や、非常に大きく成長する可能性のあるまったく新しい企業がいくつか登場するでしょう。

**Zhang Peng: 過去 5,000 日間、KK は多くの正しい予測を立て、多くの主要な方向性を前向きに把握してきました。最近、あなたは次の 5,000 日が人類の歴史の中で最も危機的な時期の 1 つになると予測しました。このノードの鍵はどこにありますか?人類は岐路にどのような方向に向かうのでしょうか？ **

ケビン・ケリー: 世界では人工知能以外にも多くのことが起こっています。私たちは気候変動の課題に直面し、遺伝子工学の登場が目前に迫っており、人工知能が屈辱的なものであると想像するのは簡単で、監視が遍在して私たちがコントロールを失うのは容易に想像できます。私たちは地球規模で多くの課題と機会に直面しています。

**これは狭くて緊急の移行期間であり、私たちはこの期間を乗り越えなければなりません。 **私たちは、電化、電気自動車、代替エネルギー、そして新しいクラウンワクチンの開発の成功を通じて、この狭い入り口にアクセスできると考えています。現在、地球上には依然として多くの政治的緊張と分断が存在しますが、私たちは集団的な行動を必要とし、テクノロジーや環境などの分野で合意を形成し、協力して問題を解決する必要があります。

**これは地球上で初めて、グローバルな文化、グローバルな経済、そして地球的な環境への影響が現れたものです。これは、今後 5000 日以内に、よりグローバルな文明になるチャンスでもあります。 **

Li Zhifei: KK 氏は、今後 5,000 日以内に、世界は AI 以外にも多くの課題に直面するだろうと言いました。 AIの観点から見ても、これからの365日は非常に重要だと思います。 AIは何度も繰り返され、そのたびに人々はAIに高い期待を寄せましたが、うまくいきませんでした。また、人々は高い値を期待し、またうまくいきませんでした。今日のAGIの波が、業界の人々にとって素晴らしいと思われるものになるか、それとも社会にとって非常に重要なものになるかは、次の365日によって大きく左右されると思います。

大きなモデルをどうやって開発していくのかも含めて、大きいほうがいいのか、それともマルチモダリティを加えるべきなのか、ソリューションを加えるべきなのかなど。普及率を見ることも含めて。現在、ChatGPT を使用している人は世界中で 5% 未満だと思われます。どうすれば普及率を 5% から 20% に増やすことができるでしょうか?規制も含めて、AIが社会に与える影響に人間はどう対処すべきなのか。インターネットなどの産業への応用だけでなく、AIも含まれていますが、医療、自動車、金融などの伝統的な産業ではどのように導入すべきでしょうか。等

人々がより明確な判断を下せるまでには、さまざまな試みが行われるのに、少なくとも 1 年はかかるのではないかと思います。

03 平均的な人間は高貴ではありません。私たちは AI が平均的な人間よりも優れていることを望んでいます

**Zhang Peng: 多くの場合、人間はテクノロジーを信頼する傾向がありますが、たとえば、誰かが自動運転車の中で寝て事故を引き起こす可能性があります。先端技術に対するこの微妙な信頼感は人間の習性なのだろうか？結果は何ですか? **

ケビン・ケリー: 自動運転車は完璧ではありませんが、それでも人間よりも運転が上手です。人工知能を信頼できますか?チャットボットとの会話では、チャットボットの回答が正確ではないことがわかり、完全に信頼することができませんでした。しかし、私たちはすぐにこの問題に対処し始めると思います。

最近では、ほとんどの人が電卓を信頼しています。あなたはそれに数字を与え、答えを与え、そしてあなたはそれを完全に信頼します。したがって、私たちはマシンが信頼できるものであることを知っており、それを改善するために取り組むことができるものです。 **そして、AI に対する偏見は、人種差別的で性差別的で悪意があり、高貴ではない平均的な人間を訓練しているためです。私たちは実際、AI が人間よりも優れていることを望んでいます。 **

電卓が平均的な人間よりも優れているのと同じように、あなたも平均的な人間よりも電卓が与える答えにもっと依存する必要があります。 **信頼は私たちが重点的に取り組んでいくべきことですが、多くの課題はありますが、最終的には人工知能と機械に大きく依存し、信頼することになると思います。 **

**張鵬氏：最近、米国ではAIの発展が速すぎるため、速度を落とすか、立ち止まって考えるべきだと多くの人が考えています。この考えに同意しますか? **

ケビン・ケリー: いいえ、私は支持しません。これは誤解を招くし、誤解を招くし、不必要だと思います。それは本当に不可能だと思いますし、お勧めできません。

**張鵬: 人間を描いたほとんどの SF 映画や小説では、AI は比較的暗いキャラクターですが、これは人間の想像力が欠如しているためでしょうか、それとも間違った想像力が多すぎるためでしょうか? **

**ケビン・ケリー: ハリウッドは常に人工知能をディストピア的で恐ろしく望ましくないものとして描いてきましたが、それは想像力の欠如だと思います。何かがどのように成功するかよりも、どのように失敗するかを想像する方がはるかに簡単であるというのが宇宙の法則だからです。 **正直なところ、AI が遍在し、低コストで人類に有益となる 100 年後の素晴らしい世界を想像するのは難しいです。たとえそれが私たちが住みたい世界であってもです。

また、これらのスタジオはストーリーテリングが非常に上手で、素晴らしいストーリーの要素は紛争、災害、およびいくつかの強力な要素です。戦争であれ、ハリケーンであれ、世界を破壊しようとする人工知能であれ。したがって、人工知能が物語に寄与しないため、ハリウッド映画で人工知能のバラ色のビジョンが見られる可能性はありませんが、その可能性は非常に小さいです。

したがって、ハリウッド（映画）の印象を通して人工知能を見ることはできません。残念ながら、多くの人がそうしているのです。人工知能というと、『ターミネーター』、『2001年宇宙の旅』、『HER』を思い浮かべます。

李志飛: すべての不信感は無知によるものだと思います。新種の AGI に直面したとき、その能力がどのように現れるのか、何を望み、何ができるのかがわかりません。これが核心的な問題です。

人間にできることは、一方では AGI をもっと理解し、他方では AGI 自体を明確に説明できるようにすることだと思います。たとえば、答えを与えるとき、内部の作業プロセスや内部の独白を発話させます。そうすることでより強い信頼感が生まれるかもしれません。 **

**張鵬：KKさんは老子の『道経』に大きな影響を受けたようですね。 「最高レベルのコントロールは制御不能であり、最低レベルのコントロールはすべてをコントロールすることである」とおっしゃいました。最近、AI に対する政府および技術規制が強化されていることについてどう思いますか? **

ケビン・ケリー: 現在の規制は良くないと思います。もちろん、規制は重要かつ必要であり、物事を円滑に進め、平等な競争条件を維持し、安全を確保する必要があります。しかし、時期尚早の規制は怖い。現時点での問題は、私たちがよく知らないものを規制しようとしていることであり、それがたいてい大惨事につながるということです。

**Li Zhifei:**なぜ監視があるのですか?基本的に、AGI のマイナスの影響がプラスの影響を上回ってしまうのではないか、AGI が有能すぎて社会的に受け入れられなくなるのではないかと心配しているのは人々です。しかし現段階ではこの判断は間違っている。なぜなら、今日、AGI のプラスの影響はマイナスの影響よりも大きいはずだからです。

第二に、今日の AGI の本当の問題は、AGI が十分に強力ではないことです。計画能力、物理世界との統合能力、自己進化能力などを含みます。希望は見えてきましたが、現実の実現にはまだ程遠いです。私たちは決してそこに到達できないかもしれません。

つまり、私が言いたいのは、**AGI の傾向を観察するだけで規制を大幅に強化することはできないということです。これにより、AGI を達成する前に AGI を破壊できる可能性があります。監督は確かに必要ですが、過剰な規制はすべきではありません。 **

**Zhang Peng: 人工知能については長年にわたって語られてきましたが、今では新たな時代に入りつつあるようです。将来本当にAIが人間を超える知能を持った生命体になる可能性があるとしたら、我々はAIを人類の文明に組み込むべきでしょうか、それとも人間の管理下に置くべきなのでしょうか？人類の文明を真にアップグレードできるのはどの方法でしょうか? **

**ケビン・ケリー: 未来の人工知能 (AI) を理解するための非常に有用なフレームワークがあると思います。今日の AI と今後 30 年、50 年、または 100 年の AI を比較するのではありません。 , それはそれほど複雑ではありません - それを別の惑星から来た人工エイリアンとして扱うことです。 **

多くの AI は、人間とは異なる考え方を持つ、これまでに見たことのない種となるでしょう。彼らはヨーダ (『スター・ウォーズ』の仮想キャラクター) やスポック (『スタートレック』の仮想キャラクター) と同じくらい知性があり、ある意味では人間を超えます。私たちはさまざまなタイプの人工エイリアンを作り、彼らを尊重し、彼らのさまざまな知性を利用して、量子重力が実際に何であるかを理解するなどの難しい問題を解決します。

しかし、私たちは彼らに制御を引き渡すつもりはありません。彼らの行動が気に入らない場合は、送り返し、閉じます。彼らがあまりにも多くの力を獲得したと思われる場合、私たちは彼らの力を奪うことができます。私たちはAIに私たちの運命を決められたくないのです。

**Li Zhifei:**現在のAGIは蝶のようなもので、幼虫から多くの栄養を摂取した後、自ら昇華を完了します。それは、人類自身の変革を完了するために、過去の人類のインターネットの知識をすべて使用することに相当します。将来、AIはさまざまな面で人間を超えることは間違いありません。人間がAIの祖先になれるのはとても幸せなことだと思います。

KK 氏は、AI をエイリアンとして扱わなければならないと言いましたが、これはむしろ制御のように聞こえます。 **人間は自分の能力やIQを過大評価しすぎる可能性があると思います。たとえば、あと 50 年後には、世界で最も強力で影響力のある 100 人のエージェントのうち、おそらく 20 人だけが人間になり、残りの 80 人は AI になるだろうと想像できます。つまり、人間とAIは最終的には制御ではなく融合しなければならないのだと思います。 **