JARVIS から Westworld へ: インテリジェントエージェントと人類の共生の未来

1927年、ドイツ人監督フリッツ・ラングの『メトロポリス』がベルリンで初公開され、人類史上初めて人工知能が登場し、人型ロボットのマリアが地下世界に嵐を巻き起こす。

それ以来、高度な知能を持つように設定されたさまざまなタイプの人工知能エージェントがさまざまな映画やテレビ作品に登場しました。 「スター・ウォーズ」では、3-CPOが星間翻訳作業を引き受け、JARVISはアイアンマンが個人的な問題や会社の事柄を処理するのを手伝い、「インターステラー」ではTARSが何度も主人公を救い、「ウエスタン・ワールド」ではドロレスがついに目覚めて咆哮を発した。そして『ブレードランナー』が公開されてから数十年が経った今でも、主人公が人間なのか機械なのかを議論している人もいます。これらの人工知能のキャラクターは、人間に奉仕し、人間に同行し、最終的には人間になることもあります。これらの作品の影響を受けて、人々は徐々に、将来人工知能があらゆる人々に随伴するようになり、すべては時間の問題であると信じ始めています。

幕が開きます

物理的な形をしたロボットであっても、デジタル世界で動作する AI プログラムであっても、それをインテリジェント エージェントと呼ぶことができます。古典的な教科書「人工知能: 現代のアプローチ」では、かつて人工知能の研究を「知的エージェントの研究と設計」と定義していました。つまり、人工知能分野の研究目的は、より優れた知的エージェントを実現することです。

Intelligent Agent は、実際には長い間私たちと協力してきました。電子メール ボックスを開くと、エージェントがメールを自動的に分類してスパムをフィルタリングし、検索ボックスにキーワードを入力すると、別のエージェントが推奨事項と検索結果を提供します。駅やショッピング モールでは、エージェントが監視カメラの後ろで黙々と働き、AI テクノロジーを使用して公共の安全を守ります。携帯電話の Siri は、人々のコマンドを理解して応答し、会話を続けることができます。テスラの運転支援システムは、ドライバーの作業の一部を軽減します。しかし、人々はこれらの知的なエージェントについて特別な認識を持っていません。なぜなら、彼らは舞台裏で働いていることが多く、あまり知性が高くなく、映画で見られるものと同じではないからです。

ChatGPT のリリースは、大規模言語モデル テクノロジにおける画期的な進歩を示します。そして言語は単なるコミュニケーションのツールではなく、人間が世界を理解し、深く考えるための鍵でもあります。 AI が言語を習得すると、実際には世界に対する洞察力と問題を解決する能力も習得します。人々は、大きな言語モデルが提案を提供する対話パートナーであるだけでなく、問題を解決してタスクを完了するための作業に直接参加できることにも気づき始めています。突然、多くの才能とリソースがこの方向に投資され、新しい時代の幕がゆっくりと開かれています。

エージェントが経済システムを再構築

Autonomous Agent – Autonomous Agent、AI の世界で人気のフライド チキン。

辞書では「Autonomous」を「Carried」と定義しています。 「外部制御なしで稼働」 - 外部制御なしで動作します。AI テクノロジーは長年にわたって開発されてきましたが、真の自律性を備えたインテリジェントなエージェントはまだ少数です。私は床を掃除するために 2005 年に第一世代の iRobot を購入しました。このロボットは完全自律型であると主張しており、地形を検出し、障害物を回避し、自動的に充電することができます。電源を入れることを心配する必要はありません。その結果、最初に使用したときにクラッシュしてしまいました。吸引口はこれは明らかに「独立」とは程遠いものです。

上のビデオはエージェントの作業プロセスを示しています。兄貴は、6 月 10 日のニューヨークからサンフランシスコ行きの航空券の予約を手伝ってくれると言った。兄貴の個人アシスタントのエージェントはすぐに仕事を始めた。ブラウザを開き、Google フライトにアクセスし、ユナイテッド航空の直行便を除外した。適切な期間の航空券が選択されます。すると、無事に座席指定と支払いが完了し、簡単に作業は完了した。これは、アイアンマンの JARVIS のような万能 AI アシスタントを作成することをビジョンとする新興企業によって開発された製品です。このプロセスは、タスクを理解し、戦略を策定して実行し、結果を分析し、タスクが達成されるまでのフィードバック ループという自律エージェントの動作モードを適切に明らかにします。

テスト アカウントを取得した人々は、他のさまざまな機能をすぐに発見しました。ピザとサラダを注文するのは簡単です。誰かが「今夜はラザニアを作るつもりです」と言ったし、必要な材料をすべてウォルマートで注文するのも簡単です。また、ツイートを自動送信したり、会議の手配をしたり、フォームに自動入力したり、Facebook を毎日自動的に検出してその日が誕生日の友人に祝福を送ったり、結婚式場の予約や結婚式の手続きの計画や手配に使用したりする人もいます。 。

これらのタスクに対処することはそれほど難しいことではありません。AI アシスタントの古いバージョンでも、その気になれば実行できますが、非常に面倒です。プログラマーは、各シナリオに従って個別にコードを設計し、関連するサービスを統合する必要があります。このエージェントの実装は非効率であるだけでなく、タスク能力も非常に低いです。 Meituan の食事注文サービスと統合されているエージェントが突然「Meituan」への接続に失敗した場合、エージェントは「Eleme」にアクセスすることで注文を完了できることを知りません。インターフェースを「何」と呼びますか。

大規模な言語モデルをコアとする自律エージェントは、一般的な作業フレームワークと事前設定された命令セットを組み合わせた後、さまざまなタスクに適応できます。これにより、特別なトレーニングを必要とせずに、チケットの予約や座席の選択などの操作を簡単に完了できます。それだけでなく、旅行の計画を立てたり、郵便物を整理したり、eBay で商品をリアルタイムで追跡したり、売り手と交渉したりする際にも、あらゆる作業をこなすことができます。情報と提案のみを提供できる従来の AI アシスタントとは異なり、自律エージェントは実際の実行機能をより重視します。 **インターネット上の人々の活動のほとんどがエージェントに引き継がれるようになるまで、長くはかからないでしょう。 **

最先端の大規模言語モデルの機能は、実際には日常の支援業務の範囲をはるかに超えており、市場調査、販売支援、製品開発、さらには科学研究など、より専門的な分野をターゲットとするエージェント開発者が増えています。世界中の 10 億人が、勤務時間のほとんどを、納税フォームへの記入、データの分類、潜在的な顧客の検索、電子メールの繰り返しの作成など、反復的な頭脳作業に費やしています。そして、この種の仕事における反復的な頭脳労働も、エージェントがすぐに克服する戦場になります*。彼らは反復的で日常的なタスクを正確かつ効率的に処理し、多くの人的資源を解放します。ユーザーはエージェントに何をすべきかを指示するだけでよく、エージェントが「上司、完了しました」というフィードバックを返すまでにそれほど時間はかかりません。

11x.AI AI人材を提供するスタートアップ企業

もちろん、エージェントがすべてに熟練しているわけではありません。 **エージェント経済の進化に伴い、明確な役割分担を持つ高度に多様化したエージェント市場が複数存在すると思います。複雑なタスクについては、包括的なエージェントが主導し、目標を分析し、タスクチェーンを形成し、効率的に完了できないタスクをさまざまな垂直分野のエージェントに送信して、共同で目標を達成します。 **そして、エージェントがどれほど開発されたとしても、多くのタスクは依然として長期間にわたって人間によって実行されなければなりません。このような状況に遭遇すると、AIが人間を順番に雇用することも珍しくありません。

ソーシャル 私のAI兄弟

結局のところ、インテリジェント エージェントはコンピュータ内で実行されるコードにすぎず、たとえデジタル世界で完全なインタラクティブ機能を備えていたとしても (実際にはまだ実現されていません)、実現できるインタラクションは一般公開に限定されます。インターネット、そして誰もがこれに満足していません。エージェントがより広いソーシャル層で対話し、トランザクションを実行できるようにする方法。

あるチームは独自の答えを出しました - Legal Packaging (Legal Packaging) ラッパー）。 **代理人が法人と連携し、合理的に権限を与えることができれば、代理人はより高いレベルの自律性を達成することができ、業務を処理する能力も大幅に向上します。 ** 法人の場合、当然のことながら自分自身の資金が必要であり、一定の資金を備えた代理店の銀行口座を開設し、呼び出すことができるようにするのは当然のことです。その結果、インテリジェントなエージェントは社会レベルでより幅広い行動能力を持ち、このアプローチによりエージェントのユーザーが効果的な法的保護を受けることも可能になります。この一連のゲームプレイの原理は複雑ではありませんが、実際には技術的にも法的にも多くの困難があり、監督がまだ明確になっていない領域や潜在的な倫理的問題にも触れます。

ただし、私の意見では、エージェントが合法的にパッケージ化され、従来の銀行口座が備えられるのは、過渡的なソリューションにすぎません。私たちが現在依存しているシステムは人間が使用するために設計されたものであり、エージェントにとっては非効率で障害が多いものです。 数年以内に世界がエージェントがあらゆる場所で稼働する段階に発展すると、膨大な需要とアプリケーションにより、インテリジェントなエージェントに適したコラボレーション システム、金融システム、さらには通貨の開発が促進されるでしょう。これらのシステムは既存のシステムと並行して、 2 つのシステム間の相互通信は、数千のコネクタ を通じて実現されます。最終的には、エージェントが人間の言語で長期間通信するのは無理があることが分かるでしょうし、AI 言語が徐々に進化する可能性は非常に高いです。

実は関連する研究は以前から行われており、Facebookは初期のAIロボット交渉実験でAIが人間以外のコミュニケーション方法を開発したことを発見した。

シムズ

インテリジェント エージェントの実践の中で、擬人化エージェント シミュレーションが最も注目を集めています。今年の 3 月、Google とスタンフォード大学の研究者らは興味深い実験を行い、大規模な言語モデルによって駆動される 25 人の知的エージェントが住むスモールビルという仮想都市を作成しました。

各悪役には次のような独自の設定があります。

*「親切で忍耐強いメイ リンは、人々の目標達成を支援することに情熱を持った大学教授であり母親でもあります。彼女は常に学生や家族をサポートする方法を探しています。メイ リンは夫のジョン リン、息子のエディと一緒に暮らしています。 、彼女は哲学のクラスを教え、研究論文を書いています。*彼女は午後 11 時頃に就寝し、午前 7 時頃に起き、午後 5 時頃に夕食をとります。」

このような単純な設定で、AI で構成される小さな社会が機能します。

John Lin は午前 6 時に起き、歯を磨き、シャワーを浴び、服を着て朝食を食べ、電子メールをチェックします。妻のメイリンさんは７時に起き、息子のエディさんは８時に起き、顔を洗って歯を磨いた後、母親と学級づくりなどについて話し合った。

より多くのエージェントが対話することで、複雑な社会的行動も実現されます。ある人からバレンタインデーパーティーの申し込みがあり、あっという間にその誘いは街の人たちに広がり、最終的には5名が参加を希望してパーティーに到着しました。これらはどれも事前にプログラムされたものではありません。言い換えれば、これらのエージェントは実際に小さな町で「生活」を送っています。

スタンフォードの町から部分的にインスピレーションを得たサンフランシスコのスタートアップ企業は、同様のコンセプトといくつかの特別なトレーニングを使用して、アメリカで最も有名なアニメ シリーズであるサウスパークの町をシミュレートしました。テキスト読み上げ技術を統合した後、AI によって撮影されたサウスパークのエピソードが誕生しました。わずか数日で、このエピソードは Twitter で 700 万回以上視聴されました。フォーブスの報道には「AIプロデューサーがハリウッドの恐怖の総和となる」といった大げさな見出しもあった。

このプロジェクトの創設者は私の友人で、出会って以来シミュレーションの分野で研究を続けています。彼の探索プロセスは非常に有益で、最初は VR インタラクティブ映画を制作し、2019 年にエミー賞を受賞しました。この映画では、観客は少女ルーシーの仮想の友達を演じます。 人々はお互いの映画を見合うのではなく、仮想の人々と本当の友達になりたいと考えていることに気づいたとき、彼はルーシーのイメージを使用して AI 仮想人間、つまり「自己」を持っているふりをする人間を作ることにしました。 life」では、Zoomビデオ会議を通じて全員とリアルタイムに会話できるAIエージェント。

ルーシーは、2021 年のサンダンス映画祭でみんなとリアルタイムで交流します。この光景は今では実現するのが難しくありませんが、2年半前はまだ多くの人に衝撃を与えました。

彼は、知的エージェントをより人間らしくするには、ただ 1 つのシミュレーションをするだけでは十分ではなく、彼らに友人を持ち、社交的で、自分の生活を送れるようにする必要があることをすぐに発見しました。 ** そこで彼の方向性は、AI が「住む」仮想世界を作成することに変わりました。そして、将来的には、人々もこれらの世界に入り、AI と対話し、一緒に暮らすことができるようになることを願っています。 「人生」はお芝居のようなものなので、AIが撮影したエピソードは偶然の結果に過ぎません。

このようなエージェントは感情的な交友や娯楽のためによく使用されますが、エージェント シミュレーションの用途はこれをはるかに超えています。ハーバード大学とマイクロソフトの研究者は、AI を使用して市場調査のために消費者をシミュレートする方法に関する論文を発表し、消費者分野における AI の大きな可能性を明らかにしました。

マサチューセッツ工科大学も AI を使用して、さまざまな給与や経験条件の下で AI 上司の決定を観察したり、高速道路の安全と自動車の安全の間の連邦予算の配分を AI に決定させたりするなど、人間の行動をシミュレートしています。これらは経済学の古典的な実験であり、これらのシナリオに AI を導入すると、AI が下した決定は過去に人間が行った実験結果と非常によく似ており、この種のシミュレーションには実用的な価値が非常に高いと言えます。友人は冗談半分で、2期後のアメリカ大統領はAIかもしれないと言っていたが、それも無理はない。

著者は、1986 年にカーネマンが提案した雪かきの価格実験を再現するために、人間をシミュレートする AI を使用しています。

人間社会には、より大胆なシミュレーションの可能性があります。 OpenAIのGPT1には1億1,700万個の学習パラメータがあり、わずか数年でGPT3の1,750億個まで進化しましたが、その過程で「創発」という現象が現れ、モデルの知能が突然大幅に向上しました。スタンフォードの小さな町の 25 人を第一世代とみなした場合、より多くの研究力とコンピューティング リソースが投資されれば、単一の模擬社会内のエージェントの数はすぐに数千、数万、さらには数百万になる可能性があります。これらの模擬社会は運用中にどのように発展するのでしょうか?人間社会では決して起こらなかったことがこの社会に現れるのだろうか。そして、ここに住んでいる知性もいつかは現れず、より人間らしい特性や「自己」の感覚さえも発達させることになるでしょう。

人工知能における意識 - 意識の科学からの教訓

チューリング賞受賞者のヨシュア・ベンジオ氏と数人の専門家は先週、「人工知能における意識」と呼ばれる論文を発表した。彼らの論文では、人工知能システムにおける意識の有無を評価するための、厳密で経験に基づいたアプローチが提供されています。この評価は、現在の人工知能システムには意識がないことが示されていますが、意識のある人工知能システムの構築に明らかな障害はないという大胆な結論も与えています。

そして、この記事の途中で、OpenAI が Global Illumination の買収を発表しました。この会社は従業員がわずか 8 人で、製品はサンドボックス型のシミュレーション ワールド ゲーム 1 つだけです。発表はわずか数行で、買収の目的や取引の詳細については説明されておらず、音声はないもののいくつかの問題点が説明されており、本当の理由については多くの議論があるだろう。 OpenAI は決して楽しいゲームを作るためのものではないと思います。

AI版「西部開拓」

人間と知的エージェントが「西洋世界」で共に暮らすというビジョンは非常に美しいですが、「西洋世界」は依然として不毛で、西部の大発展の到来を待っています。私の意見では、大きな開発には3つの主要なラインがあると考えています : 信頼性があり、実行可能で、持続可能。

信頼性: モデルの機能は信頼できるほど強力ですか?モデルの意図は信頼できるものですか (AI と人間の連携)?エージェント自体（サービスプロバイダー）は信頼できるか？エージェント間の対話においてプライバシーを確保するにはどうすればよいですか?相互の信頼を確保するにはどうすればよいでしょうか?エージェントは現実世界でどのように相手と対話し、相互信頼などを獲得していくのか。

実行可能: デジタル世界における行動の技術レベル、デジタル世界における行動の社会レベル、人間の社会システムにおける行動、第三者を通じて物理世界で行動する能力、および能力物理世界で行動すること（身体化された知性）。

持続可能: 動作環境の持続可能性、コンピューティングリソースの制御可能性、自己修復、自己エネルギー管理など。 AI の能力が電力や石油など、個人、組織、国、あるいは AI 自体のいずれであっても、徐々に不可欠な基本資源となると、持続可能性が非常に重要な位置に置かれることになります。真に自律的なエージェントは、将来的にもある程度の生存を保証します。

これらのインフラを構築するには、人工知能、暗号化、ブロックチェーン、通信などのテクノロジーの進歩と統合に依存するだけでなく、経済学、ゲーム理論、社会科学などのさまざまな社会科学の発展と統合にも依存する必要があります。社会学、人類学、法律、政治など、その分野を探索してください。多くの起業家や学者がこれらの分野に投資しています。たとえば、かつて OpenAI で働いていた中国人起業家の David Luan 氏は、Adept AI を設立しました。彼らは、AI が本来人間の操作を必要としたすべてのタスクを完了できるようにする一連の対話モデルを構築しています。コンピューターと対話します。

私は AI テクノロジーの専門家ではなく、多くのことについての理解が限られており、一部の実装の難しさを過小評価している可能性があります。しかし、私は楽観的すぎるとは思っていません。むしろ、未来は間違いなくもっと荒々しい方向に来ると思います。歴史上のあらゆる技術革新は、その当時の人々の想像力の限界をいとも簡単に突破してしまいます。私たちは今日、あらゆる想像力を使い果たしました。おそらく、長い間山で暮らしてきた山の民と同じように、人生の最も大胆なビジョンは、毎食餃子を食べることができることだけです。

この記事を書いている現在、天才少年 Zhihui Jun は Zhiyuan Robot という人型ロボットを発表しました。物理的な実体を持つこのタイプの知的エージェントは身体化知能と呼ばれ、物理世界と相互作用することにより、人間社会により直接的な影響を与える可能性があり、エージェントの時代はさらに近づいているようです。

1926年に撮影された映画『メトロポリス』は、100年後の世界を想像していました。これは史上初の人工知能が登場する映画であるだけでなく、初のディストピア映画でもあります。その奥深いイデオロギー的核心と視覚的スペクタクルは、後続の世代の SF 作品に影響を与え、ひいてはテクノロジーと未来に対する世界の見方にも影響を与えてきました。 。

100年前に生きた監督は情報化時代を予見できなかったが、映画の中で描いた2026年は産業が高度に発達した時代であり、巨大な機械が街全体の運営を支え、多くの労働者が機械作業に従事している。地下工場での「手」の役割 社会における「手」の役割 今、私たちはプログラマーが機械的にコードを打ち、営業担当者が商品を売り続ける姿を目にしますが、これは実は「メトロポリス」の労働者と何ら変わりません。社会の「手」であり、社会の「心」として、さまざまな階層が相互に理解し、連携する役割を担っています。

100 年後、目前に迫った未来に直面して、エージェントは私の日々の仕事や生活パターンをどのように変えてくれるでしょうか?私の既存のスキルはエージェントによって廃止されますか?エージェントは私の経済状況にどのような影響を及ぼしますか?この新しい時代は私にどんなチャンスをもたらしてくれるでしょうか？

そして社会レベルでは、潜在的な失業にどう対処すればよいのでしょうか？生産性の向上によってもたらされる追加の富をより公平に分配するにはどうすればよいでしょうか?仕事が必要なくなったとき、人々はどのようにして人生の意味を見つけるのでしょうか？ AI と人間の価値観を継続的に調和させる方法。悲観的な未来ではなく楽観的な未来を形作るにはどうすればよいでしょうか?

私には答えがありません、誰も答えを持っていません。

でも、誰もがこの時代の激流に巻き込まれ、共に書き、答えに向かって走り出す。

著者は現在、コミュニティ主導/文化主導、AI + 暗号化、エージェント エコロジーなどの分野での学習、研究、インキュベーション、および関連投資に焦点を当てています。記事内で言及されているMULTI.ON/Fableおよび未公開プロジェクトはすべて著者の投票によるものです。この記事の目的は情報共有であり、投資アドバイスを構成するものではありません。