OpenAI 創設者: 私たちは非常に真実を追求する組織です

出典: 中国起業家雑誌

主催｜呉英

画像の出典: Unbounded AI ツールによって生成

7月24日、OpenAI CEOのサム・アルトマン氏（サム・アルトマン、以下「アルトマン」）が長年開発してきた仮想通貨プロジェクト「WorldCoin」を立ち上げ、再び大きな注目を集めた。アルトマン氏は、彼が主張するように、AI の世界で人間のより良い生活を目指して懸命に取り組んでいます。

3か月前、サム・アルトマン氏とOpenAIの共同創設者グレッグ・ブロックマン氏（グレッグ・ブロックマン、以下「ブロックマン」）はアメリカのポッドキャストのインタビューに応じた。インタビューでは、OpenAI の中心人物 2 人が AI についての見解を説明したほか、AI がさまざまな業界に与える影響、セキュリティ問題、AI 以外の投資レイアウトについても話し合いました。

両氏はOpenAIのビジョンについて説明した際、全人類にとって有益で安全なAGI（汎用人工知能）を開発したいということで意見が一致した。激しく議論されているAIのセキュリティ問題についても、リスクを認め、克服に向けて懸命に取り組んでいると述べた。さらに、2人は他の分野への投資についても話し、例えば、アルトマン氏はクリーンエネルギー産業に、ブロックマン氏は医療・教育産業に特に関心を示している。

インタビューのハイライトは次のとおりです:

1. 私たちは、全人類にとって有益で安全な汎用人工知能の開発に懸命に取り組んでいます。

2. 基本的に、私たちが望んでいるのは、このテクノロジーをすべての人に提供し、人々が作成する障壁を取り除き、新しいタスクを完了し、人間が本当に関心のある問題を解決できるようにすることです。

3. 私たちはもはや原始的な知識を持っている段階にとどまるのではなく、機械に与えられたタスクを実行し、社会的価値観に従って動作するように導く第二段階に進みます。

4. 私たちは、細部に細心の注意を払い、それを正しくしようとする文化を構築しており、そのように働きたいと考える人々からの非常に慎重な工学的および科学的研究を引き付けています。

5. 豊富でクリーンなエネルギーは、気候危機を解決するだけではなく、他の方法でも利益をもたらす可能性があると思います。また、エネルギーへの投資は、私が思いつく他の単一の投入への投資よりも重要なことだと思います。エネルギー取得コストの根本的な変化に資金を提供することは素晴らしいことです。

6. AI は、優秀な科学者の能力を向上させ、科学研究を進歩させる、あらゆる人にとっての生産性ツールです。

今後 3 ～ 10 年で AI はどの業界に影響を与えるか

**モデレータ:**最も基本的な質問から始めましょう。OpenAI の使命を簡単に紹介していただけますか?あなたの決断の目的は何ですか? **アルトマン: 私たちは、すべての人類にとって有益で安全な汎用人工知能の開発に懸命に取り組んでいます。 **これは前例のないプロジェクトです。実行するのがどれほど難しいかは承知しています。途中で多くの間違いを犯すでしょうが、これが私たちが固執する方向です。 私は、AI がこれまで人類によって開発された中で最も革新的なテクノロジーになると強く信じています。ある意味、AI は将来のあらゆるテクノロジーの開発に役立つものであり、未来は明るいです。

ブロックマン: 約 8 年前、私たちが OpenAI を始めたとき、私は人工知能が実現すると本気で信じていましたし、それを実現するには長い時間がかかることも分かっていましたが、私たちにはこれに影響を与えるチャンスがあると考えました。テクノロジー 自分のパフォーマンスにとても興奮しています。 私たちのビジョンは、AGI が全人類に有益であるということです。私たちはさまざまな方法でこの目標を達成しようとしています。

当初、私たちはそのような理想を持っていましたが、それを実際の行動と組み合わせる方法がわかりませんでしたが、長年の苦労の末、実際に機能するシステムを構築する方法や価値観を統合する方法を見つけました。このシステムに。過去数か月間、私たちのテクノロジーが徐々に主流になり、人々が私たちのテクノロジーの恩恵を受け始めていることを嬉しく思っています。 **このテクノロジーはまだ初期段階にあり、やるべきことはたくさんありますが、私たちは全員が参加し、発言する必要があると強く信じています。 ** 効果的なグローバル ガバナンスを実際に実現する方法を見つけ出すことは、技術開発と同じくらい重要です。

司会者: 世界には約 10 億人が経済的に恵まれた中産階級に属しており、彼らは仕事や勉強に自由に AI を活用しています。では、AI は残りの 70 億人にどのような恩恵をもたらすのでしょうか?

** ブロックマン: 私たちが開発した AI の重要な特徴は、アクセス制限がないことです。誰もがこのテクノロジーにアクセスして使用でき、好みやフィードバックをシステムに入力して、生活を改善するために使用できます。私たちがこの技術を開発した当初の目的。 **

現在、このテクノロジーがどのように機能するかについて多くの疑問があります。当社は非営利団体という特殊な構造を持っており、資本がOpenAIに集中すると株主ではなく会社が所有し、最終的には世界中に分配されることになります。利益を全世界に分配する場合、UBI（Universal Basic Income）を考慮し、このようにリソースを配分することができます。 **基本的に、私たちが望んでいるのは、このテクノロジーをすべての人に提供し、作成する際の障壁を取り除き、新しいタスクを完了し、人間が本当に関心のある問題を解決できるようにすることです。 **

**アルトマン: 真に持続可能な経済成長はすべて技術の進歩から生まれ、社会政治的管理と文化は技術の進歩を達成するのに役立ちます。 ** したがって、私たちは残りの 70 億人を助ける方法を進めています。将来、私たちのテクノロジーはさらに進化します。私はテクノロジーがすべての人の生活の質を向上させる鍵であると信じています。」

**司会者：**AIは教育現場にどのような貢献をしてくれるのでしょうか？

**ブロックマン:**もし私が AI 会社を立ち上げていなかったら、プログラミング教育の会社を立ち上げていたでしょう。想像してみてください。将来、子供たちを本当に理解し、時間をかけて子供たちを知り、やる気を引き出す方法を知っている教師が子供たちに提供され、その教師が 24 時間 365 日無料で対応してくれるとしたらとても良い音のようです。

カーン アカデミー [非営利教育機関] のような機関を見ると、GPT-4 を本格的に取り入れて教室に導入し始めており、このテクノロジーを有益な指導者となるように活用する方法を考え出しています。子どもたちが「宿題を手伝って」と頼んだら、「いいえ、それはできません」と言うでしょう。また、子供たちが何に興味を持っているのか、そして実際にもっとやる気を起こさせるにはどうすればよいのかを見つけようとしており、現在はそれを最大限に活用する方法を検討する段階に入っています。

**司会者:**今はカーンアカデミーもあるし、オンラインコースもたくさんあると言う人も多いかもしれませんが、あなたが提案しているのは単なるアイデアであり、実際の製品はありません。教育を受けていない人々が依然としてあなたの製品を必要としていると思いますか?

ブロックマン: 現在、私たちが教育を受けているのは、知識や問題解決方法を教えてくれる賢い人たちを通してです。将来、人間よりも賢くなれる機械があれば、それは可能でしょうか?もっと便利になります。 。 **私たちは、Alexa (Amazon が発売したスマート アシスタント) や Siri (Apple が発売した AI アシスタント) など、多くの仮想アシスタントを開発してきましたが、頭の思考が必要な一部の問題については、それだけでは不十分です。私たちの思考能力と問題解決能力を高めるためには、より高度なテクノロジーが必要です。 **

間違いなく、GPT-4 のような機能は誰もが見たことがあります。**私たちはもはや独自の知識を持っている段階にとどまるのではなく、割り当てられたタスクを実行するようにマシンを導く第 2 段階に進みます。価値観が働きます。 **これらのテクノロジーはすべて、現在当社によって研究開発されています。テクノロジーの使用が拡大し続けるにつれて、テクノロジーと製品のテストの次の段階が今後数年間にわたって行われる予定です。

**司会者:**今後 3 ～ 10 年で、AI はどの業界に影響を与えるでしょうか?

ブロックマン: このテクノロジーは法律業界に応用でき、法律サービスを提供することで多くのメリットをもたらすことができると思います。 GPT-3 の私のお気に入りのサービスは、Augrented と呼ばれるツールです。このツールは、立ち退き通知を受け取ったテナントが契約の問題を理解するのに役立ちます。この層には必ずしも弁護士に相談できない人がたくさんいるため、このテクノロジーは、他の方法ではできないことを彼らが行うのに役立ちます。これは、私たちがこれまで見てきた非常に効果的な使用例の 1 つです。

司会者: 今、AI が人間の知能を増幅するという話がありますが、例えば GPT-4 を使えば本が書けるそうですが、これについてはどう思いますか？

アルトマン: 私はこの声明に非常に同意しており、これが私たちが推進するために最善を尽くしている方向です。心に残ったツイートを見ました。**ある人は、GPT-4 のような強力な知性と共存するとは思っていなかったと言っています。 AGI の領域の奥深くに足を踏み入れると、 人間の意志を増幅させ、私たちをより強くすることに優れた AI を構築することが完全に可能であることがわかります。 **これにより、私たちの仕事はより効率的かつ改善されます。さらに、人々はそれをとても気に入っていることがわかりました。私にとって、**OpenAI について最もうれしいことは、人々がその製品を愛し、そこからあらゆる種類の予期せぬ恩恵を受けられることです。 **

「私たちは非常に真実を追求する組織です」

モデレーター: OpenAI チームが ChatGPT などの AI 製品を研究開発しているときに、何か驚くべきことに遭遇しましたか?

** ブロックマン: 最初の驚きは 2017 年に遡ります。当時、私たちは「教師なし感情ニューロン」という論文を作成しましたが、あまり注目されませんでした。しかし、これは私たちにとって真の画期的なことであり、私たちはこのパラダイムを本当に追求する必要があります。 **Amazon レビューの次の文字を予測するモデルをトレーニングしたところ、名詞がどこにあるか、動詞がどこにあるかを学習できましたが、さらに驚くべきことに、最先端の感情分析と分類を学習しました。コメントが肯定的か否定的かを判断できます。私たちはこれらの言語の意味を機械に教えたことはありません。機械はこのタスクを実行することで何らかの形でそれを理解しました。 **機械学習は完璧ではありません。まだまだ道のりは長く、初期段階ですが、問題を解決し始めることはできます。 **

より多くの人にプログラミングの楽しさを感じてもらうことは私にとってとても有意義です。これまでプログラミングをしたことがない人でも、すでに優れたプログラマーである人でも、より創造的な活動を行うことができ、この能力とレベルに達することで、コーディングのワークフローを加速することができます。

**モデレーター:**コーディングをスピードアップする方法について詳しく教えていただけますか?

Brockman: コーディングのプロセスでは、どのライブラリが探している機能を実行するか、それらを実装する方法、パラメータが何であるかを正確に思い出すことに多くの時間を費やします。システムやアプリケーションを構築したいと考えていますが、これは高度なタスクです。以前の Copilot (プログラミング支援ツール) は定型的なものにすぎず、単なる暗記にすぎません。現在、モデルは改善され始めており、特定のプログラミング言語についてあまり詳しくない場合、または特定のライブラリのセットを知らない場合でも、モデルは喜んでそれを提供します。 GPT-4 の興味深い点は、どこでエンコードが間違っているかを指摘できることです。これらのエラー メッセージは場合によっては不可解であり、さまざまな Web サイトを調べたり、他の Web サイトをつなぎ合わせたりするなど、答えを探し回らなければなりません。人々はこう言っていますが、GPT-4 はこれらの問題の解決に役立ちます。

**司会者:**アルトマン、あなたはどんな驚きを感じましたか?

アルトマン: ノーム・シャジーア (Character.AI の創設者) の言葉を引用します:「なぜこれらのアーキテクチャが機能するのかを説明しません。これらの結果は神の慈悲によるものだと考えています。」これは私にとって A です。繰り返しのテーマ、**私は自分自身を経験主義者だと考えており、何かがうまくいくのであれば、やればやるほど良くなると信じています。 **グレッグが先ほど言及した「教師なし感情ニューロン」は非常に大きな驚きでしたが、GPT-4 が実現するいくつかのことによって、AI が機能する理由が説明され始めています。私は AI を全面的に信じており、それは遠くまで発展すると信じています。 **OpenAI を始める前、AlexNet (Convolutional Neural Network) の結果を見て驚きました。 **

司会者: わずか数百人の従業員で、世界最大のテクノロジー企業のみが達成できるレベルを超えていますが、これには多大な努力と幸運が必要です。知りたいのですが、この目標を達成する原動力は何ですか? OpenAI 内に主要なリーダーはいますか?

**アルトマン: 私たちはたくさんのことをしていますが、意図的にやっているものもあれば、運が良いものもあります。大きな要因の 1 つは、細部に細心の注意を払い、それを正しくしようとする文化が構築されており、そのような取り組みを希望する人々から非常に慎重な工学的および科学的研究が集まっていることです。もう 1 つの理由は、私たちが非常に真実を追求する組織であり、効果的なものを見つけて、さらに多くのことを実行していると考えているからです。 **

私たちが OpenAI を開始したとき、私たちはこの分野に存在する他の AI 研究とは異なり、インセンティブ システムも異なり、考慮すべき点も分散しており、非常に集中してリスクを負い、当時は想像もできないと考えられていたことを実行しました。私たちはこのプロジェクトにリソースのほとんどを投入しており、リスクは伴いますが、慎重に研究し、結果を出せると確信しています。

**ブロックマン:**私の考えは、「第一原則」から始めることです。ごく初期の頃、イリヤ (OpenAI の主任研究員) は毎日 1 時間ほど私と議論していました。たとえば、誰を雇うべきかについて長い議論をしました。従来の機械学習の博士号を雇うべきなのか、それともこれまでこの分野に携わったことのないソフトウェア エンジニアを雇うべきなのか、あるいはその中間の人物を雇うべきなのでしょうか。 すべての決定について、その結果を確認する必要があります。その後、学習と更新を続けます。

事前にすべてを知ることはできませんが、実際に行動することで学ぶことができます。私たちが開発し規模を拡大し続けたOpenAI-Fiveと同様に、Dota2というゲーム競技においても全く後れを取っておりません。 （注：OpenAI-Five、Dota2ゲームをプレイできる人工知能、Dota2は多くの熱狂的なファンを持つマルチプレイヤーオンライン格闘アリーナゲームです。2018年には世界チャンピオンチームOGチームに全力で挑みました。）

これは、実際に拡張する初めてのシステムであり、より多くのコンピューティング能力を投入するにつれて、システムは毎週改善されています。私たちの目標は、既存のアルゴリズムのスペースを使い果たし、新しいアルゴリズムの開発ができるようにすることであり、それが私たちが本当にやりたいことです。あなたがこの方向を追求しようとすると、別の方向があなたを前進させ、それがうまくいくと言います。 ** 目の前にあるものに対応し、常に更新、方向転換、変化することは、技術的な観点から非常に重要です。 **

アルトマン: OpenAI-Five プロジェクトをスケールアップしたとき、基本的には誰もそれが成功するとは思っていませんでした。 AI システムに任意の量の計算を投入して、望ましいレベルの知能を達成することができ、これが信じられないほど広範囲の計算と知能をカバーするという事実は、驚くべき科学的発見のようなものです。

ブロックマン: 私たちはアルゴリズムの進歩にも注目し、最高のシステムと最高のアルゴリズムを組み合わせ、GPT-4 のようなシステムが誕生しました。 **この問題について考えると、GPU のすべての情報が新しいアルゴリズムのサプライ チェーンに入力されたり、さらには大規模なデータ処理システムにアップロードされたりする場合、これは大規模なプロジェクトであることがわかります。どの企業も単独でそれを行うことはできません。ある意味、これは実際には多くの企業が関与する人類全体のプロジェクトです。 **

「AI は誰にとっても生産性向上のツールです」

司会者: アルトマン、誰かがあなたにツイートしました:「次にあなたが言うことは、AI を規制すべきだということです。」あなたは答えます:「はい、人工知能を規制すべきです。賢いですね。」 「あなたたちの動きは速すぎる」と言う多くの人について思いますか。規制、グローバルガバナンス、人材の獲得についてどう思いますか?

アルトマン: 皆さんの不安や恐怖は理解していますが、人々はテクノロジーの変化のスピードを恐れています。また、慎重に進め、人工知能の規制を強化することに同意しますが、研究を一時停止するのは意味がありません。

**私たちが本当にしなければならないことは、混乱した現実の中でどのような規制アプローチ、ルール、安全基準が実際に機能するのかを理解することです。 AGI を秘密裏に構築し、ある時点ですぐに公開するのではなく、世界の変化の速度を比較的一定に保つ必要があります。 **機関は一夜にして成長するものではありません。徐々に技術開発に参加し、科学研究に批判的なフィードバックを提供し、愚かな間違いがあったときに知らせ、大きな利益と潜在的な害をもたらす領域を特定し、間違いを犯してそこから学ぶ必要があります。リスクが予想よりも低い場合。

ブロックマン: 私たちはこれを真剣に理解しようとしているところです。 **OpenAI を設立したとき、私たちが真剣に検討したのは、全人類に利益をもたらすかどうかを決定する、安全な AGI を開発する方法でした。ここには技術的セキュリティと社会的セキュリティの2つの問題があり、人工知能技術が安全に利用されるように誘導する必要があります。 **

私は比較的技術的なので、最初の問題を解決することに集中します。私たちは過去 4 ～ 5 年前から導入を開始しており、GPT-3 に問題がある場合は、フィルターや非モデルレベルの介入を使用して、GPT-3 が配布されている方法でパッチを適用してきました。現在、私たちのテクノロジーは実際にモデル レベルで介入できるように成熟しており、GPT-4 はモデル内の結果を自動化された方法で理解できるため、セキュリティ フィルタリングにおいて非常に優れた仕事をします。

司会者: 人工知能に対する批判の 1 つはエネルギーの使用です。アルトマンさんは、将来的には無限の知能だけでなく、無限のエネルギーも存在すると考えていますが、Helion Energy (クリーン エネルギー会社) に多額の投資を行っていますが、それに投資した理由と、どのような結果を期待しているかについて話してもらえますか?

アルトマン: AI の将来に無限の知性やエネルギーが存在するとは思いません。価格が下落し、豊かな製品が増加するはずだと思います。私たちがこの無限のレベルに到達することは不可能です。 AI システムに対するこうしたエネルギー批判は下品なものだと思います。 **私は、豊富でクリーンなエネルギーには気候危機の解決以外にも利点があると考えており、エネルギーへの投資は、私が思いつく他の単一の投入への投資よりも重要であると考えています。エネルギー取得コストの根本的な変化に資金を提供することは素晴らしいことです。 **Helion はこれに取り組んでおり、来年良いニュースが聞けることを期待しています。

**モデレーター: **ブロックマン ヘルスケアや医薬品開発の分野のいくつかの企業に投資しているとのことですが、どう思いますか?

ブロックマン: OpenAI 内にはいくつかのテクノロジー関連のスタートアップに投資するファンドがあり、Ambience Healthcare (医療分野の人工知能企業) のようなスタートアップは、実際に実際の医療活動に AI を適用しようとしています。 Microsoft でさえ、Nuance (人工知能ソフトウェア会社) を通じてヘルスケア業界に AI 戦略を導入し始めています。医師が直面するさまざまな問題について考えてみると、その多くは管理上の問題です。私の両親は二人とも医師で、患者と話すためにiPadを使用することを強制されたという話をすべて聞いていました。 **私たちは、ニュアンスの医師情報の即時トランスクリプトを見て、事後に医師のメモを取得できる世界に移行しようとしています。これにより、医師が患者の家族に説明する労力が軽減され、医師が真に治療に集中できるようになります。患者のケア。 **

ChatGPT を使用して Twitter で医師の診察を受けることの利点はすでに確認されています。また、ChatGPT を通じて愛犬の命を救った人もおり、獣医師の診察を受けたが、獣医師の治療が間に合わなかったと報告されており、ネチズンは心配して医療記録を ChatGPT にアップロードしました。ただし、ChatGPT は、「私は獣医師ではないので、獣医師に相談する必要があります。」についてはかなり確信しています。しかし、いくつかのアドバイスや説明も受けたので、自信を持って 2 番目の獣医師の診察を受けることができました。彼は AI をどのように介入させたいかという問題を真に指摘しているので、これは非常に興味深い例だと思います。人間は医療の分野で医師に大きく依存していますが、人間は間違いを犯すものでもあり、最初の医師は致命的な結果をもたらす可能性のある誤った決定を下しました。そこで、適切な人材による適切な監督を得る方法を考え出す必要があります。

モデレーター: あなたは OpenAI を通じてプラットフォームを使用している企業に投資していますが、これは変化をもたらしますか?他の企業もあなたの API (アプリケーション呼び出しインターフェイス) を使用しますか?すべての業界を改善するために AI を使用する最善の方法は何なのか知りたいですか?

アルトマン: 現在、人々がどこでも OpenAI の API を呼び出していることがわかります。モデルがますますインテリジェントになるにつれて、製品やサービスの機能は継続的に改善できるため、この質問には自信を持って答えることができ、この状況は今後も改善されるでしょう。続く。

**司会者:**人工知能または最新の人工知能テクノロジーの使用は、3 ～ 10 年以内に科学研究に何をもたらすと思いますか?

**ブロックマン:**中国の数学の天才テレンス・タオは最近、GPT-4 の速度が加速したと述べました。著名な数学者であるテレンス タオ氏は、GPT-4 を使用してプロジェクト宣言に資金提供の申請を書くと、大きな助けとなり、いくつかの面倒なタスクを解決できると述べています。実際、人々は毎日、単調で反復的なタスクに多くの時間とエネルギーを費やしています。世界で最も賢い人々は、このようなあまり創造的ではない仕事に多くの時間を費やしていますが、それは非常に無駄です。 AI は、これらの重要ではない退屈なタスクを解決するのに役立ち、人々が真に価値のあることに取り組めるようになり、より多くのことを達成できるようになります。

**アルトマン: はい、私はそう思います AI は、優秀な科学者を向上させ、科学研究を進歩させる、あらゆる人にとっての生産性ツールです。 **最終的に、これらのシステムは、人間の脳よりも多くの知識を保存し、新しいつながりや新しいアイデアなどを発見するのに役立つ可能性があります。