ロング氏は、彼の知る限り、高度な AI システムを構築している企業は、これらのモデルの認知度を評価し、それに応じて計画を立てるということが十分に行われていないと付け加えた。同氏は、「主要な研究室の責任者の講演をいくつか聞いたが、人工知能の意識や人工知能の知覚については検討する価値があると述べていたが、それだけでは十分ではないと思う」と語った。
Nature は、AI 開発を推進する主要テクノロジー企業 2 社、Microsoft と Google に連絡を取りました。マイクロソフトの広報担当者は、同社の人工知能開発の核心は人間の生産性を責任ある方法で支援することであり、人間の知能を複製することではない、と述べた。
人工知能が自律意識を持っているかどうかを科学者はどうやって調べることができるのでしょうか?
人工知能が意識を生成するというアイデアは長い間 SF の一部であり、1968 年の映画『2001 年宇宙の旅』でスーパーコンピューターが悪者となった HAL 9000 を思い出します。人工知能の急速な発展に伴い、この可能性はそれほど奇妙ではなくなりつつあり、人工知能の第一人者さえも認識しています。
昨年、チャットボット ChatGPT を開発した OpenAI のチーフサイエンティスト、イリヤ・サツケヴァー氏は、最先端の AI ネットワークの一部は「****わずかに意識的」**である可能性があるとツイートしました。
多くの研究者は、人工知能システムはまだ意識を持っていないと述べています。しかし、AI の進化のスピードを考えると、AI に意識があるかどうかをどうやって知ることができるのでしょうか?
この質問に答えるために、19 人の神経科学者、哲学者、コンピューター科学者からなるチームは、満たされていればシステムが意識を持っている可能性が高いことを示す基準のリストを作成しました。彼らは今週初めに、まだ査読されていない暫定ガイダンスを arXiv プレプリント リポジトリに公開しました。
共著者でカリフォルニア州サンフランシスコの AI 安全センターの哲学者ロバート・ロング氏は、「AI の意識に関する詳細で経験に基づいた思慮深い研究が実際に不足しているように見えるため、この研究を行った」と述べた。 .「議論する」。
研究チームは、AI システムが意識を持っているかどうかを特定できないことは、倫理的に重大な影響を与える可能性があると述べています。神経科学者でこの研究の共著者であるミーガン・ピーターズ氏は、もし何かが「意識」と名付けられるとしたら、「それは人間としての私たちの取り組み方を劇的に変える必要があるだろう」と述べた。
ロング氏は、彼の知る限り、高度な AI システムを構築している企業は、これらのモデルの認知度を評価し、それに応じて計画を立てるということが十分に行われていないと付け加えた。同氏は、「主要な研究室の責任者の講演をいくつか聞いたが、人工知能の意識や人工知能の知覚については検討する価値があると述べていたが、それだけでは十分ではないと思う」と語った。
Nature は、AI 開発を推進する主要テクノロジー企業 2 社、Microsoft と Google に連絡を取りました。マイクロソフトの広報担当者は、同社の人工知能開発の核心は人間の生産性を責任ある方法で支援することであり、人間の知能を複製することではない、と述べた。
広報担当者は、ChatGPT の公開リリースの最新バージョンである GPT-4 の発表以来、「社会全体の利益のために人工知能の可能性を最大限に実現するという私たちの探求には、人工知能を評価する新しい方法が必要である」ことが明らかになったと述べた。人工的なスマートモデル機能」。 Googleは応答しなかった。
01.
*********意識とは何ですか？ ***********
AI の意識を研究する際の課題の 1 つは、意識とは何かを定義することです。報告書の目的上、研究者らは「現象的認識」、つまり主観的な経験に焦点を当てたとピーターズ氏は述べた。つまり、人間、動物、または人工知能システム (そのうちの 1 つが意識があることが証明された場合) に存在する感覚です。
意識の生物学的基盤を説明する神経科学に基づいた理論は数多くあります。しかし、どれが「正しい」のかについてはコンセンサスがありません。したがって、著者はさまざまな理論を使用してフレームワークを作成します。彼らの考えは、AI システムの機能がこれらの理論の複数の側面と一致する場合、AI システムは意識を持っている可能性が高まるというものです。
彼らは、意識を評価するこの方法は、ChatGPT に意識があるかどうかを尋ねたり、挑戦してその反応を観察したりするなど、単に行動テストを実行するよりも優れていると主張しています。なぜなら、AIシステムは人間の模倣において驚くべき進歩を遂げたからです。
英国サセックス大学意識科学センター所長の神経科学者アニル・セス氏は、チームの理論的に厳密なアプローチは良いものだと考えている。しかし、「より正確で十分にテストされた意識理論が必要である」と彼は言う。
02.
*理論重視のアプローチ
著者らは、その基準を定式化するために、意識は、システムがニューロン、コンピューターチップ、またはその他の材料でできているかどうかにかかわらず、システムが情報をどのように処理するかに関係していると仮定しています。このアプローチは計算機能主義として知られています。彼らはまた、人間や動物の脳スキャンやその他の技術的研究から導き出された、神経科学に基づいた意識理論が人工知能に適用できるという仮説を立てました。
これらの仮定に基づいて、チームはこれらの理論から 6 つを選択し、そこから一連の意識の指標を抽出しました。
その 1 つはグローバル ワークスペース理論です。これは、人間や他の動物が視覚や聴覚などの認知タスクを実行するために多くの特殊なシステム (モジュールとも呼ばれます) を使用していると主張します。これらのモジュールは独立して動作しますが、並行して動作し、情報を共有するために単一のシステムに統合されます。
ロング氏によれば、「システムのアーキテクチャとシステム内での情報の流れを調べることによって」、特定の AI システムが理論から導き出された指標を示すかどうかを評価できるとのことです。
セスはチームの提案に感銘を受けました。 「これは非常によく考えられており、大げさではなく、前提条件が明確に述べられている。たとえいくつかの前提条件に同意できないとしても、それはまったく問題ない。なぜなら、私が間違っている可能性があるからである」と同氏は語った。 」
著者らは、この論文は意識的AIシステムを評価する方法について決定的なものには程遠いとし、他の研究者が方法論の改良に協力してくれることを期待していると述べている。 ただし、これらの標準はすでに既存の人工知能システムに適用できます。
たとえば、このレポートでは ChatGPT などの大規模な言語モデルを評価し、そのようなシステムにはグローバル ワークスペース理論に関連する認識の指標があると言えることがわかりました。それでも、この研究は、既存のAIシステムが意識の有力な候補であることを、少なくとも現時点では示唆していない。