しかし、超知能アライメント問題を解決するための OpenAI の道は明らかです。つまり、ほぼ人間レベルの自動アライメント研究者を確立し、人間のフィードバックから学習し、人間による人工知能の評価を支援する人工知能システムの能力を向上させることです。目標は、他のすべての調整問題の解決に役立つ程度に調整された AI システムを構築することです。
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OpenAI の最新トレンド: 新しいチームを結成し、スーパーインテリジェンスに賭け、コンピューティング リソースの 20% を投入
生成 AI によってもたらされた革命的な変化をまだ嘆いていますか? GPT-4 の威力を嘆いていませんか? GPT-5 にどのような新機能があるかまだわかりませんか? OpenAI はさらに先を見据えており、すでに実用化されています。
OpenAI チームは昨日、最新の動きを発表し、Ilya Sutskever (OpenAI 共同創設者兼主席科学者) と Jan Leike (アライメント リード) が共同率いる新しいチーム、Superalignment を結成しました。これは超知性に関するチームであり、超知性の調整研究に重点を置いています。 OpenAI は、今後 4 年間で超インテリジェントな位置合わせ問題の解決にコンピューティング リソースの 20% を費やすと主張していますが、これは OpenAI の重要性を示すのに十分です。
スーパーインテリジェンスとは何ですか?
超知能とは、人間の知能を超えた知的システムのことであり、単なるコンピュータプログラムではなく、認知能力、感情能力、自己認識、意思などの特性を備え、自ら思考、判断、決定することができる知的体を指します。ものづくりは人間の知性をある程度超えることもあります。スーパーインテリジェンスの概念は、現在の人工知能システムに関連したもので、より広範囲の分野や複雑な環境に適用できる、より高度な人工知能を指します。
現在、超知能はまだ理論上の概念であり、まだ実現されていません。超知能を達成するには、機械学習、自然言語処理、コンピューター ビジョン、推論、意思決定における課題を含む、多くの技術的問題を解決する必要があります。さらに、スーパーインテリジェンスの出現は、スーパーインテリジェンスの制御、セキュリティ、プライバシーの問題など、多くの倫理的、社会的、政治的問題も引き起こすでしょう。
スーパーインテリジェンスは、医療診断、新薬開発、インテリジェント輸送、自動生産、セキュリティ防御など、さまざまな分野でさまざまな重要なアプリケーションを生み出すことができるため、刺激的で説得力のある概念です。一方で、超知能にはリスクや課題もあり、制御不能になった場合、人類に大きな脅威をもたらす可能性があります。
スーパーインテリジェンスを実現するには、多くの技術的問題を解決する必要があります。最も重要な問題の 1 つは、インテリジェント システムが独立して学習する能力、つまりデータと経験から新しい知識とスキルを継続的に学習して、インテリジェンス レベルを継続的に向上できるようにする方法です。同時に、超知性は強力な推論、意思決定、革新能力を備え、独立して考えてさまざまな複雑な問題を解決できる必要もあります。
超知能は 10 年以内に現実になるでしょうか?少なくともOpenAIはそう考えている
OpenAI は、スーパーインテリジェンスがこれまで発明された中で最も影響力のあるテクノロジーとなり、世界で最も重要な問題の多くを解決できると信じています。しかし、超知性の巨大な力は非常に危険な場合もあり、人類の無力化、さらには絶滅につながる可能性があります。 **スーパーインテリジェンスは今は遠い存在のように思えるかもしれませんが、私たちは 10 年以内にそれが実現するかもしれないと信じています。 **
超知性のリスクを解決するにはどうすればよいでしょうか?
超知性は莫大なエネルギーを持っていますが、リスクもまた大きいです。 OpenAIは、これらのリスクを管理するには新しいガバナンス機関が必要であり、超知能の調整の問題、つまり人工知能システムが人間よりもはるかに賢く、しかも人間の意図に従うことをどのように保証するかという問題に対処する必要があると述べた。
OpenAIは答えを出さなかった｡彼らは､人間より賢い人工知能システムを人間が確実に監督することはできないと考えている｡現在の調整技術を超知能に拡張することはできない｡したがって､新たな科学技術のブレークスルーを模索する必要がある｡
しかし、超知能アライメント問題を解決するための OpenAI の道は明らかです。つまり、ほぼ人間レベルの自動アライメント研究者を確立し、人間のフィードバックから学習し、人間による人工知能の評価を支援する人工知能システムの能力を向上させることです。目標は、他のすべての調整問題の解決に役立つ程度に調整された AI システムを構築することです。
昨年、OpenAI は、アライメントに関する研究の流れを明確にするブログ投稿を公開しました。
OpenAI の新しいチーム Superalignment
このチームはトップクラスの機械学習研究者とエンジニアからなるチームとなり、新しい手法の開発からスケールアップ、展開に至るまで、スーパーインテリジェンス調整の中核となる技術的課題を4年以内に解決することを目標としています。 OpenAI の主任研究員である Ilya Sutskever 氏は、超知能の調整問題を研究の中核に据えています。超知能の調整は基本的に機械学習の問題であり、OpenAI は優秀な機械学習の専門家を募集しています。 参考文献: