チューリング賞受賞者のヤン・リークン氏: AI プラットフォームを安全で優れた実用的なものにする唯一の方法はオープンソースです

出典: ザ・ペーパー

張静記者

「AIの影響を恐れて、一般的にAIが厳しく規制されることを望む人々がいます。なぜなら、誰もがAIを使いこなすことができ、AIでやりたいことが何でもできるなら、そのような状況になる可能性があると彼らは言うからです」 「非常に危険なので、AIに対して強力な規制が必要です。私はそれに全く同意しません。」

人類が現在の倫理と統治機構を確立するまでには長い時間がかかりました。人工知能が人間と同じように意識と知性を発達させることができるとしたら、人間はどのようにして倫理と統治の要件を満たすことができるのでしょうか?人間が人工知能に介入するメカニズムは何ですか?

7月6日、2023年世界人工知能会議が上海で開幕した。 2018年のチューリング賞受賞者であり、メタAI基礎人工知能研究所チームの主任人工知能科学者であるヤン・ルカン氏は、開会式で「人工知能を使って誰でも何でもできるので、この状況にはまったく同意できない」と述べた。非常に危険である可能性があるため、人工知能は厳しく規制される必要があります。」長期的には、AI プラットフォームを安全で優れた有用なものにする唯一の方法は、AI プラットフォームをオープンソース化することです。

楊立坤は、人工知能がどのようにしてインテリジェントになり、制御可能になるのかについて話しました。 「人間レベルの人工知能を実現する方法が、より大規模な自己回帰 LLM (大規模言語モデル) を実行し、その後マルチモデル データ テストを使用することであると考えている場合、これらの人工知能システムは安全ではないと考えるかもしれません。実際、私はこのシステムがあまり知性を発揮できるとは思えません。システムが知性を発揮する方法は、システムを制御可能にする方法でもあると思います。つまり、目標駆動型人工知能の概念です。本質的に、それはシステムに目標を与えることです。これらの目標の一部は、システムが質問に答えたかなど、タスクによって定義される目標です。システムはあなたの車を始動させましたか?システムはテーブルをクリアしましたか?他の目標は、誰も傷つけないなど、安全柵として機能します。

ヤン・リクン氏は、これらの人工知能システムが少しずつ侵入することで人間を騙したり支配したりすることはないと信じている。人間は、AI に人間に屈服させる、好奇心を持たせるよう注意する、持つべきではないリソースへのアクセスを与えるなど、AI に正直になるよう強制する目標を設定できます。 「したがって、これらのシステムは完全に制御可能で操作可能になると思います。システムは安全になるように設計できますが、それは簡単ではありません。これらの目標を設計してシステムを安全にすることは、エンジニアリング上で困難な課題になるでしょう。」

しかし楊立坤氏は、人間は最初からうまく設計する必要はなく、マウスと同じくらい賢いシステムを構築することから始めればよい、人間の目標はそれを優れたマウスにすることだと述べた。 「私たちはそれらをサンドボックスまたはシミュレーション環境に置き、安全であることを確認したいと考えています。一般的に、AIを恐れて厳しく規制されることを望んでいる人々がいるからです。これは重要な問題です」 AI の影響についてです。誰でも AI を手に入れることができ、AI で何でもできるようになったら、状況は非常に危険になる可能性があるため、AI を厳格に規制する必要があると言っているからです。私はそうは思いません。それにはまったく同意します。」

それどころか、Yang Likun 氏は、長期的には人工知能プラットフォームを安全で優れた実用的なものにする唯一の方法はオープンソースであると信じています。将来的には、誰もが人工知能アシスタントを介してデジタル世界と対話するようになり、人間の情報はすべてこの人工知能アシスタントを通過する必要があり、テクノロジーが少数の企業によって管理されている場合、これは良いことではありません。 「将来の AI システムは人類のあらゆる知識の宝庫となり、AI システムのトレーニング方法は多数のソースに基づく必要があります。そのため、将来的にはオープンソース LLM とオープンソース AI システムがさらに増えるでしょう。」