「ワイアード」誌のシニアライター、「ニューヨーク・タイムズ」の人工知能コラムのチーフライター、そして「ディープラーニング革命」の著者として、ケイド・メッツ氏は基本的に、10年以上にわたってAI分野の著名な専門家全員にインタビューをしてきました。サム・アルトマンはChatGPTを立ち上げる前に彼に相談し、ヒントンはGoogleを辞めた後に彼に相談した。これらの中核人物との接触を通じて、彼はマイクロソフト、グーグル、メタなどの AI 巨人にも深く入り込み、ビジネスの中核となるさまざまな意思決定の背後にある核心的な瞬間や劇的な場面を掘り出しました。 10年前に人工知能の流れを変えた秘密オークション。
Sam Altman 氏が OpenAI を際立たせることができるのは、その強力なネゴシエーション能力が OpenAI と Microsoft の協力に貢献しているからだと彼は考えています。同氏はまた、既存の技術自体には外堀がないため、AIにおける中国と米国の差は世間が考えているほど大きくないと考えている。 AIの将来についてはヒントンと同様の懸念を抱いており、AGIの出現が社会に大きな変化をもたらすのではないかと懸念することになる。傍観者は明らかですが、以下は AI 観察者からの洞察です。
マイクロソフトについて言及されましたが、同社は AI の最後の波において競合他社に完全に後れを取っていました。では、なぜ Microsoft はこの AI の波の中でこの機会を捉え、これほど迅速に行動できるのでしょうか?
ケイド・メッツ:
これはマイクロソフトにとって興味深い動きです。彼らは一時は競争に遅れをとっていましたが、自分たちが構築しているテクノロジーの重要性を認識していました。同氏の敵対者であるグーグルやその他の企業も、この技術を利用できるシナリオを持っている:グーグルはまず、音声認識のためにアンドロイド携帯電話とデジタルアシスタントのグーグルホームにニューラルネットワークを大規模に導入した。したがって、これらのスマート スピーカーを自宅で使用すると、質問に答えることができます。 Google は、このテクノロジーを導入するためのシナリオとハードウェアを備えているため、このテクノロジーの導入をすぐに開始できます。 Microsoft にはこのシナリオはありません。
しかし、Microsoft が最終的にそれを導入しようとしたとき、別の問題に遭遇しました。彼らは数年前にTayと呼ばれるチャットボットを米国で発売したが、それが店頭に並ぶとすぐに、人種差別的なものを含むいくつかの攻撃的なメッセージを生成し始めた。 Microsoft はすぐにそれを削除するしかありません。
**これは、米国における AI テクノロジーの進化に伴う物語の 1 つの側面であり、これらのシステムは特定の人々に偏った不必要なテキストを生成し、ヘイトスピーチを生み出すことがあります。したがって、大企業はこの製品を発売する決断をするのが難しく、そのリスクを負いたくないのです。しかし、Microsoftはこのシステムを立ち上げているOpenAIと提携しているため、人々はその欠陥に対してMicrosoftに対するときほど強く反応しないだろう。 ** 人々は、これらのバグが小規模で無名な会社からのものであることは受け入れますが、Microsoft のような有名な会社からのものではありません。
不透明性などの AI の脅威に関して、あなたは著書の中でヒントンの興味深い一節を記録しました。「人々は「ブラック ボックス」問題と共存する必要があります。たとえ内部の仕組みが見えなくても、彼らは想定されているとおりのことを行うでしょう。 to do」と書いていますが、最近ヒントン氏が Google を辞め、彼とのインタビューも行いましたが、その中でヒントン氏は AI について多くの懸念を表明していました。 AIに対するヒントンの態度の変化をどのように理解していますか?
ケイド・メッツ:
彼の考え方は確実に変わりました。私がこの本を出版したとき、彼は AI のリスクはかなり遠いものだと考えていました。しかし、昨年、私たちが現在目にしている ChatGPT テクノロジーを見て、彼の考えが変わりました。
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
伝説の AI レポーター、ケイド・メッツ氏インタビュー: 業界に堀はなく、中国はすぐに OpenAI に追いつくだろう
著者 | Tencent Technology Hao Boyang
「深層学習の 3 つのビッグ 3」というタイトルは、AI の隆盛を考える読者にとっては決して馴染みのあるものではありません。しかし、ディープラーニングの才能の中で、ヒントン、ヤン・レクン、ヨシュア・ベンジオを巨人として選ぶのに、どのような評価基準が使用されているのでしょうか?このタイトルは、AI 分野で最も有名な記者、ケイド・メッツによって 18 年前に決定されました。
「ワイアード」誌のシニアライター、「ニューヨーク・タイムズ」の人工知能コラムのチーフライター、そして「ディープラーニング革命」の著者として、ケイド・メッツ氏は基本的に、10年以上にわたってAI分野の著名な専門家全員にインタビューをしてきました。サム・アルトマンはChatGPTを立ち上げる前に彼に相談し、ヒントンはGoogleを辞めた後に彼に相談した。これらの中核人物との接触を通じて、彼はマイクロソフト、グーグル、メタなどの AI 巨人にも深く入り込み、ビジネスの中核となるさまざまな意思決定の背後にある核心的な瞬間や劇的な場面を掘り出しました。 10年前に人工知能の流れを変えた秘密オークション。
この本は、2012 年に開催され、人工知能業界全体に大きな影響を与えたオークションについて詳しく報告しています。
2012年12月、椎間板ヘルニアのためじっと座っていられなかったヒントンは、タホ湖のスキー山のふもとにあるカジノホテルに生徒2人とともに1週間滞在した。彼と彼が新たに設立した会社は何も製品を持っていないが、マイクロソフト、グーグル、ディープマインド、百度を含む世界で最も有名な企業からの入札を受け付けている。
最も劇的な場面は、百度から派遣された当時の研究所副所長ユ・カイ氏の突然の訪問にヒントン氏が対応していたときで、「自分が年を取ったと思わせない」ために、ヒントン氏は学生たちにこう頼んだ。ソファクッションで一時的に作った天蓋で腰痛を和らげるために毎回荷物をまとめ、彼らはかなり慌てていました。ある訪問中、ヒントンさんはユ・カイさんの残したバックパックと向き合い、百度の最低価格の情報を探すべきか生徒たちと長い間悩んだ。しかし最終的には、尊厳が彼らを諦めさせました。ついに1週間後、ヒントンはGoogleの提案を受け入れ、まだ完全に空っぽだった同社を4,400万ドルで巨人に売却し、巨大なAI戦争の幕を開けた。
彼のキャリアを通じて、このような詳細と劇的な対立に満ちたシーンがいたるところで見られます。したがって、彼はAI分野で最も深い観察者であると言っても過言ではありません。
このインタビューでメッツ氏は、ディープラーニングの歴史と核心的な瞬間から、AI の将来と人間社会への影響に至るまで、AI 分野に関する広範な知識を改めて実証しました。彼はまた、特に中国の人工知能の状況について観察者スタイルの評価を行った。
Sam Altman 氏が OpenAI を際立たせることができるのは、その強力なネゴシエーション能力が OpenAI と Microsoft の協力に貢献しているからだと彼は考えています。同氏はまた、既存の技術自体には外堀がないため、AIにおける中国と米国の差は世間が考えているほど大きくないと考えている。 AIの将来についてはヒントンと同様の懸念を抱いており、AGIの出現が社会に大きな変化をもたらすのではないかと懸念することになる。傍観者は明らかですが、以下は AI 観察者からの洞察です。
中国と米国の差はそれほど大きくなく、AI には堀がない
テンセントテクノロジー:
OpenAI の物語が注目を集めるようになった今、あなたは著書の中でその創設とその歩みについて多くのことを書いています。サム・アルトマンについて話してもらえますか?彼はどのような資質を持って OpenAI を今日の地位に導くことができたのでしょうか?
ケイド・メッツ:
**サムは非常に野心家で、自分がしてほしいことをするように人々を説得するのが得意です。率直に言って、彼はチームを構築し、特定の道に導くのが得意です。 **開発のスキルレベルだけが問題ではありません。これを行うには多額の資金が必要です。この種のシステムのトレーニングには、数億ドルとは言わないまでも、数千万ドルの費用がかかります。インターネット上のすべてのテキストを分析して学習し、これらのシステムに自動的に学習させるには何か月もかかり、実際に大手テクノロジー企業が所有および管理する大規模なコンピューティング システムが必要であると述べました。
サムはおよそ2019年に10億ドル以上を調達した。したがって、彼のスキルセットの大部分は取引交渉にあります。 **これは大きな取引であり、サムは必要な資金と必要な計算能力を手に入れました。その後、**Microsoft からさらに 110 億ドル以上を調達し、総額は 130 億ドル近くになりました。それが彼が極めて重要な理由だ。
テンセントテクノロジー:
マイクロソフトについて言及されましたが、同社は AI の最後の波において競合他社に完全に後れを取っていました。では、なぜ Microsoft はこの AI の波の中でこの機会を捉え、これほど迅速に行動できるのでしょうか?
ケイド・メッツ:
これはマイクロソフトにとって興味深い動きです。彼らは一時は競争に遅れをとっていましたが、自分たちが構築しているテクノロジーの重要性を認識していました。同氏の敵対者であるグーグルやその他の企業も、この技術を利用できるシナリオを持っている:グーグルはまず、音声認識のためにアンドロイド携帯電話とデジタルアシスタントのグーグルホームにニューラルネットワークを大規模に導入した。したがって、これらのスマート スピーカーを自宅で使用すると、質問に答えることができます。 Google は、このテクノロジーを導入するためのシナリオとハードウェアを備えているため、このテクノロジーの導入をすぐに開始できます。 Microsoft にはこのシナリオはありません。
しかし、Microsoft が最終的にそれを導入しようとしたとき、別の問題に遭遇しました。彼らは数年前にTayと呼ばれるチャットボットを米国で発売したが、それが店頭に並ぶとすぐに、人種差別的なものを含むいくつかの攻撃的なメッセージを生成し始めた。 Microsoft はすぐにそれを削除するしかありません。
**これは、米国における AI テクノロジーの進化に伴う物語の 1 つの側面であり、これらのシステムは特定の人々に偏った不必要なテキストを生成し、ヘイトスピーチを生み出すことがあります。したがって、大企業はこの製品を発売する決断をするのが難しく、そのリスクを負いたくないのです。しかし、Microsoftはこのシステムを立ち上げているOpenAIと提携しているため、人々はその欠陥に対してMicrosoftに対するときほど強く反応しないだろう。 ** 人々は、これらのバグが小規模で無名な会社からのものであることは受け入れますが、Microsoft のような有名な会社からのものではありません。
テンセントテクノロジー:
あなたの観察によれば、人工知能の分野における中国と米国との格差はどのくらいあるのでしょうか?中国には人工知能においてどのような利点があると思いますか?
ケイド・メッツ:
中国はしばらくの間、これに取り組んできた。ここに関係するテクノロジーを理解している人や企業はたくさんありますが、困難が生じる可能性があります。これらのシステムを訓練するために必要なコンピューターチップは、アメリカの企業によって最高レベルで製造されています。現在は貿易禁止になっており、これらのチップを中国に販売することはできません。これは欠点となる可能性があります。
このテクノロジーの構築に関しては、どのように展開するか見ていきます。 **サム・アルトマン氏は最近、中国は2年遅れていると感じていると述べた。これは推定値です。業界全体が彼と彼の会社の取り組みにすぐに追いつくことができると思います。私たちはすでにそれを目にし始めており、中国でも同様に起こる可能性があると思います。 **
テンセントテクノロジー:
このギャップは大きくなっているのでしょうか、それとも小さくなっているのでしょうか?
ケイド・メッツ:
貿易禁止のため、それを判断するのは困難です。これが中国が直面する困難である。私の知る限り、中国はデータセンターに必要なチップや機器の製造、設計、供給に懸命に取り組んでいます。
**中国であろうと米国であろうと、我々は競争など貿易摩擦が果たす潜在的な多くの役割に対処しなければならないだろう。現在、OpenAI のテクノロジーが競合他社のほとんどを上回っていることは一般に受け入れられています。しかし、実際に競争するために必要な知識、資金、リソースへのアクセスを十分に備えている企業は世界に他にもたくさんあります。 **
したがって、AI 競争はまだ初期段階にあり、検討すべき道はまだたくさんあります。結果はまだ様子を見る必要があります。
テンセントテクノロジー:
あなたは本の中で百度について言及しました。この中国企業は 2012 年にこの種の AI テクノロジーの実験を開始しており、すでに競争の初期段階にありました。今日はなぜ力強さを見せられなかったと思いますか?この状況の主な要因は何だと思いますか?
ケイド・メッツ:
**アイデアがこの分野を動かしていると思います。 **ディープラーニングは世界中で有名であり、中国の研究者も同様の技術を構築しています。しかし、米国と同様に、人々は、先ほど述べた人間によるフィードバック トレーニングのステップが非常にうまく機能したことに驚きました。 **したがって、この技術 (人間のフィードバックによるトレーニング) を大規模な言語モデルに適用するという点では、米国の多くの企業よりも一歩遅れています。 **
テンセントテクノロジー:
OpenAI、Google、Meta などの大手企業以外にも多くの企業がこの競争に参加しているとおっしゃっていましたが、注目に値する中小企業はありますか?
ケイド・メッツ:
OpenAI を辞めた人々のグループによって設立された Anthropic という会社があります。この会社はあまり知られていませんが、この分野では重要な存在になるでしょう。彼らは、ChatGPT を形成するテクノロジーの多くの構築を支援し、まだ一般公開されていない独自のチャットボットを構築しました。その機能は ChatGPT に匹敵すると推測しています。
トロントには同様のことを行っている Coherence という会社があり、米国には元 Google 社員によって設立された Character.AI という会社があり、DeepMind の創設者の 1 人によって設立された Inflection AI という別の会社もあります。 DeepMind はロンドンに拠点を置くもう 1 つの重要な研究所であり、実質的に Google が所有しています。
テンセントテクノロジー:
AI 分野で開発を進めている企業にとって、チャンスはどこにあるのでしょうか?
ケイド・メッツ:
これらの小さなドメインがどのように機能するかというと、誰かが大規模な言語モデルと呼ばれるシステムを構築すると、それを使用して他のあらゆる種類の技術を構築できるようになります。チャットボットを構築したり、検索エンジンを構築したり、個人教師を構築したりできます。 **OpenAI が何をしているかというと、このコア システムを構築しているということです。彼らはこれを GPT-4 と呼び、このシステムを使用したい他の企業に提供します。これは他のアプリケーションを作成する方法です。
それが見え始めています。 **OpenAI のような企業がこの種のサービスを提供することになると思います。誰もがそれを使用して、その上に独自のアプリケーションを構築できます。 **したがって、企業がこのコアサービスを利用し、その上に新しいものを構築し、それらのアプリケーションを販売できるあらゆる種類の機会があると思います。しかし、最も難しいのはこのコアサービスを構築することであり、これを実現できる企業は多くありません。米国には、Google、Microsoft、Meta などの巨大企業があり、必要な資本と人材を備えているスタートアップ企業はわずかです。前にも言いましたが、この基幹システムを構築するには数億ドルが必要です。 **したがって、現在、小規模企業が基本モデルの構築に関して競合することは困難です。 **
価格が下がり、オープンソース プロジェクトが改善されると、独自のコア システムを構築することが容易になると多くの人が考えていますが、それは最終的には変わります。確信はないけど。
AI 開発における 2 つのマイルストーン: オークションと ChatGPT の誕生
テンセントテクノロジー:
AI の上級著者として、あなたは 10 年間のキャリアの中で基本的にディープラーニングの分野に注力しており、この分野ですべての重要な役割を確立し、その間のさまざまな決定的な瞬間に参加してきました。この分野に注目したきっかけは何ですか?
ケイド・メッツ:
2011 年か 2012 年頃、私はサンフランシスコの Wired に入社しました。これは私が注力することに決めた分野の 1 つです。 10年以上前の当時、すでにこの分野が非常に重要になる匂いが漂っていた。そのとき、私がこのテクノロジーに興味を持つようになったいくつかの重要な瞬間が起こりました。
ヒントンは「ディープラーニング革命」という本の主人公であり、私は彼の台頭と、過去 10 年間の多くの進歩を推進したニューラル ネットワークの重要な概念について書きました。彼は最終的に 2013 年に Google に入社しました。
後で知ったのですが、これはグーグル、マイクロソフト、中国の百度など世界最大手のテクノロジー企業間のオークションだったそうです。それは極めて重要な瞬間であり、何かが起こり始めているのがわかりました。長年にわたり、私はこの分野を取材する機会が増え、ヒントンや彼の長年の同僚、最終的に Facebook に加わり、現在は Meta に加わったこの分野の人々の中でも特に有名なヤン・レクンのような人々と知り合うようになりました。私たちは Wired で多くの報道を始めましたが、その後、その規模はますます大きくなっていきました。最終的に、私はこの分野についての本を書くことに決め、ワイヤードからニューヨーク・タイムズに移籍した後も取材を続けました。
テンセントテクノロジー:
AIを長年追いかけてきた記者としては、機械学習、人工知能の分野における谷期を経験したことがある、サイクルを回っているようなものだと思います。あなたの意見では、何がヒントンや他の人たちを粘り強くさせたのでしょうか?
ケイド・メッツ:
ヒントンは 1972 年にニューラル ネットワークの研究を開始しました。当時、人工知能の分野全体がニューラル ネットワークの方向性を放棄していたため、それが成功するとはほとんど誰も信じていませんでした。しかし、** ヒントンは自分の考えを持った人で、自分が信じていることを本当に信じており、その方向にしっかりと取り組んでいます。
** 1980 年代までに、主にヒントン自身の努力のおかげで、テクノロジーはいくつかの大きな進歩を遂げました。多くの人がこの考えを再び信じ始めました。しかし、90年代初頭になると人々は再び諦め始めたが、彼は仕事を続け、常に一貫した姿勢を貫いた。 ** 彼らは、このアイデアは今後も改善されると信じていましたが、それは正しかったのです。この物語が非常に興味深い理由の 1 つは、親しい同僚からさえも非常に多くの懐疑的な目を向けられながらも、彼らが働き続けることです。
**業界全体の目を本当に開いた瞬間は、現在 AlexNet 論文として知られているものでした。トロント大学のヒントンと彼の学生 2 名によって書かれたこの研究論文は、ニューラル ネットワークが花、車、人、動物などの写真内の物体を識別する画像認識 ** において大きな成功を収めることができることを示しています。
2012 年にこの論文が発表されると、Google、Microsoft、Baidu、そして最終的には Facebook の注目を集めるようになりました。地球上で最も大きな企業の一部では、画像認識だけでなく音声認識や翻訳などにもこのアイデアを適用しようと急いでおり、人材の争奪戦が見られます。この論文は極めて重要な瞬間でした。私の本がその論文から始まるのはそのためです**。それはヒントンが自分の会社を最高入札者に競売にかけた瞬間であり、それが他のすべてのきっかけとなったのです。 **
それから今日に至るまで、私たちは改善を続けてきました。前述の 2012 年の業界意識の目覚めは重要な瞬間であり、10 年後に ChatGPT がリリースされましたが、これもまた重要な瞬間です。どちらもAIの歴史を振り返るとき、非常に重要な転換点です。
テンセントテクノロジー:
**あなたの本の中でディープラーニングの開発について説明されていますが、AlphaGo、Deepfake、GPT シリーズなどの製品のマイルストーンは広範な公開議論を引き起こしました。しかし、ChatGPT が登場するまでは、誰もが本当の産業革命が到来していると実感していました。 **
ケイド・メッツ:
これは素晴らしい質問です。 GPT および ChatGPT 関連テクノロジは、しばらく前から開発されてきました。いくつかの企業が過去 5 年間にわたってこの技術を開発しており、OpenAI は最終的に Chat GPT を開発し、Google、Meta (旧 Facebook)、Microsoft などの企業も 5 年前にいわゆる大規模言語モデルの開発を開始しました。
このテクノロジーの背後にある考え方は、データから学習できる数学的システムであるニューラル ネットワークを構築することです。できる限り多くのテキストを入力すると、そのテキストが分析され、そのテキストを分析する過程で、テキスト自体を生成する方法を学習します。ウィキペディアの記事、ブログ投稿、チャットログ、インターネット上のさまざまなコンテンツを分析することで、私たちが単語を組み立てる方法のパターンを認識し、その方法を学習しました。私たちはこのテクノロジーがここ数年で実現し、いくつかの興味深いシステムがリリースされてきました。
OpenAI は GPT-2、GPT-3 をリリースしましたが、それらはどれも非常に印象的です。これらのシステムが人間と同じようにテキストを生成し始めることがわかります。しかし、一般の人々にこのことを本当に認識させたのは、ChatGPT のリリースでした。 Meta (元 Facebook) が科学コミュニティにチャットボットをリリースしたように、他の企業も数か月、数週間前に独自のチャットボットをリリースしましたが、人々の興味をそそらなかっただけでなく、嘲笑の対象にもなりました。それは偽情報を生み出し、人々はそれに対して非常に憤慨しているからです。メタはすぐにそれを倒しました。しかしその直後、OpenAI は Twitter 上で ChatGPT をリリースしました。
**人気になったのは、リリース方法とリリース会社のせいもあります。ただし、ChatGPT はいくつかの重要な技術的側面を改善しています。なぜなら、インターネット全体から学習したこれらの大規模な言語モデルを構築する際に、人間のフィードバックが適用されるからです。彼らは人間にチャットボットの応答を評価するよう依頼しました。彼らは人間に反応を良いと評価するよう求めているのでしょうか?それは本当ですか効果ありますか?好きか嫌いかの評価をシステムにフィードバックし、システムにその評価から学習させます。 **
このようにして、チャットボットが質問されるほぼ毎回、説得力のあるテキストが生成されるまで磨き上げることができました。それは常に真実であるとは限らず、依然として偽情報を生成しますが、**人間が実際に使用している応答性の高い方法で人々に伝達します。その分野の専門家だけでなく、誰とでも。これは本当に人々の想像力を掻き立てました。 **このテクノロジーに対する認識には、一般の人々だけでなく、このテクノロジー分野の多くの研究者の間でも大きな変化が見られます。 ChatGPT の人気は、この種のテクノロジーの新時代の到来と、ますます優れた人工知能を目指す新たな競争の到来をもたらしました。
テンセントテクノロジー:
ChatGPT の成功の技術的な鍵となる要素は主に RLHF (ヒューマン フィードバックによる学習) だと思いますか?
ケイド・メッツ:
はい、**GPT-3 などの過去のバージョンを使用している場合、特定の方法で質問すると印象的な場合があります。たとえば、ドナルド・トランプ風のスピーチをするように依頼すると、印象的なスピーチを生み出す可能性は約半分です。それはサイコロを振るようなもので、欲しいものが得られる場合もあれば、そうでない場合もあります。この場合、システムは一般の人々の注目を集めません。 **しかし、彼らはこの基本的なシステムを採用しましたが、システムが応答を生成するたびに、アノテーターにスコアを付けさせました。人間から評価を取得し、その回答がどのように評価されているかを確認し、それをシステムの再トレーニングに使用できます。アノテーターは、どのような答えが良くて、どのような答えが悪いのかを GPT に伝えます。
最終的に、OpenAI は、ほぼ毎回人間のように会話できるチャットボットを入手しました。彼らはこのシステムを一般の人々の前に置き、この激しい議論が人々のその出現に対する反応です。 Twitter では誰でも使うことができ、人々はとても反応します。
AGI の実現はまだ遠いですが、その到来は人間の仕事の価値をすべて置き換えることになります
テンセントテクノロジー:
少し前にマスク氏がインタビューで「AGIは5、6年以内に実現するだろう」と発言していましたが、AGIは簡単な目標だと思いますか?
ケイド・メッツ:
それを言うのは本当に難しいし、この件に関しては多くの議論がある。 **今日の AI システムはそのレベルには程遠いことを私たちは知っています。彼らは見事な方法で言語を発することができますが、人間のように推論することはできず、人間のような常識も持っていません。 **
多くの人は、この能力を彼らに与えるには新しい方法が必要であり、私たちの現在の方法では彼らに AGI を達成させることはできないと信じています。彼らは言語だけではなく、物理的な世界についてもっと知る必要があります。これについては多くの議論や意見の相違がありますが、今日考える必要があることではありませんし、私たちはまだ AGI に十分近づいていません。
テンセントテクノロジー:
真の汎用人工知能と比較して、現在のシステムに欠けているものは何だと思いますか?
ケイド・メッツ:
これらのシステムを使用すると、現在の AI の欠陥が簡単に発見されます。人間のように論理的に考えさせようとすると、真似できることもありますが、ほとんどの場合は真似できません。
これが本当の難しさです。 **それらと AGI の最大の違いは、もっともらしいテキストを生成し、実際に推論できることです。 **
**これらのシステムは、過去に起こったこと、つまりインターネット上に文書化されたことを扱うのに非常に優れています。しかし、彼らは将来については語らず、何が起こるかを推測します。 **あなたと私は、将来について話し、何が起こるかについて考えながら、この会話をすることができます。これらのシステムはこれを行うのが苦手です。彼らは前に見たものを真似するのが得意です。したがって、彼らは標準化されたテストに合格するのが非常に得意です。彼らは法律や高校の科学や数学などのテストで非常に良い成績を収めたため、メディアで大きく取り上げられました。
**しかし、他の研究では、まったく新しい質問、つまりトレーニング後に書かれた質問だけを彼らに与えると、彼らのパフォーマンスはそれほど良くないことが示されています。したがって、彼らはこれらすべての標準化された質問に答えていますが、必ずしも推論しているわけではありません。 **彼らがやっていることは、以前に見たことを繰り返すことです。
テンセントテクノロジー:
不透明性などの AI の脅威に関して、あなたは著書の中でヒントンの興味深い一節を記録しました。「人々は「ブラック ボックス」問題と共存する必要があります。たとえ内部の仕組みが見えなくても、彼らは想定されているとおりのことを行うでしょう。 to do」と書いていますが、最近ヒントン氏が Google を辞め、彼とのインタビューも行いましたが、その中でヒントン氏は AI について多くの懸念を表明していました。 AIに対するヒントンの態度の変化をどのように理解していますか?
ケイド・メッツ:
彼の考え方は確実に変わりました。私がこの本を出版したとき、彼は AI のリスクはかなり遠いものだと考えていました。しかし、昨年、私たちが現在目にしている ChatGPT テクノロジーを見て、彼の考えが変わりました。
彼は、ある意味ではシステムが人間の脳よりも強力であることに気づきました。 **あなたも私もインターネット全体を理解することはできません。インターネットは人間の手の届かないところにあります。私たちはこれほど多くのデータから学ぶことはできませんが、システムは学ぶことができます。 **彼は、それらが偽情報、この場合は本物ではないテキスト、本物ではない画像、本物ではないビデオを広めるために使用されているのではないかと懸念しています。
**それに加えて、彼はシステムが人々の仕事を奪い始めていることも心配しており、戦場で使用されている自動化システムや武器として使用されているような大きな問題のいくつかについても心配している。それ以上長くなると、AI を制御できなくなります。 **
テンセントテクノロジー:
ヒントン氏の長年の同僚であるヤン・レクン氏や他のAI科学者たちは、最近、メディアによるAIの機能と脅威の誇張についてよく語っている。彼の言うことが正しいと思いますか?メディアはどのような形でこれらの問題を実際以上に複雑にする可能性がありますか?
ケイド・メッツ:
**メディアは誇張していると思います。 Chat GPT が最初にリリースされたとき、人々はその欠陥に気付かず、人々を誤解させる誤った情報を生成していることに気づくまでに長い時間がかかりました。ジャーナリストを含む多くの人は、何が起こっているのかを理解するのに苦労しています。拡散しながら人々を誤解させ続けます。 **この場合、過剰な宣伝が容易に発生する可能性があります。
もちろん、誤解から意図的に誇張することもありますが、意図的に誇張する人もいれば、無意識に誇張する人もいます。しかし、それは人々が自分が見ているものを完全に理解していないことが主な原因だと思います。
テンセントテクノロジー:
現在の AI ブームの歴史的意義は何だと思いますか?新たな産業革命の始まりでしょうか?
ケイド・メッツ:
可能です。これらのシステムは今後も改善されると思います。 **テキストだけでなく画像も扱えるようになります。 OpenAI によって構築されたテクノロジーの最新バージョンが、画像を取り込んでその内容を説明し、画像に関する質問に答える様子を私たちは見てきました。これはまだ公開されていませんが、彼らが構築したものの一部です。人間と同様のスキルがますます増え、人々の仕事を変え続けることが約束されています。
過去 6 か月間で私たちが見てきたことは、今後数年間で本当に大きな変化が起こることを示唆していると思います。この変革は、第一次産業革命と同じくらい広範囲に及ぶものと思われます。私たちはまだ初期段階にいます。こうしたことは人々が思っているよりも遅く進むことがよくあります。しかし、私たちはその方向に向かっていると思います。
テンセントテクノロジー:
AIはこの社会をどう変えると思いますか? AGIが実現したとき、人間の価値はどこにあるのでしょうか?
ケイド・メッツ:
人間の脳でできることは何でもできるシステム、いわゆるAGIを実際に人間が持つのは難しい状況だと思います。
**もし人間ができることをすべて機械ができるとしたら、人間を雇うよりも機械を使った方が安く済むため、労働者の価値はゼロになります。私の意見では、これは人間にとって良い状況ではありません。 ** しかし、AIはまだ存在していません。
コンピュータ プログラマを例に挙げると、現在、システムはコンピュータ プログラムやコンピュータ コードを非常にうまく生成できますが、コードには依然として欠陥がある可能性があります。生成したコードを引き継ぎ、編集し、統合するには、依然として経験豊富な人間のプログラマが必要です。より大きなプログラムになり、最終的にはアプリケーションが構築されます。これらのシステムは時間の経過とともに改善されるため、人間の行為がますます代替されることになります。現段階での問題は、間もなくAIが経験の浅い若手プログラマー、つまりAIと同じことをして、基本的なコードを書いてより経験豊富なプログラマーに引き渡すプログラマー業界の最底辺にいる人々に取って代わられ始めることだ。プログラマー、統合する人々。
** AI が進歩し続けるにつれて、機械は確かに物事をどんどん変えていくでしょうが、私たちは AI が突然多くの仕事を置き換える段階にはいません。 **
私が抱いているもう 1 つの懸念は、これらのシステムがリアルなテキストや画像を生成できることです。彼らはその場でビデオを生成し始めており、私たちはインターネット上にあるものと本物のものを区別できなくなり、インターネット上のほぼすべてのものを閲覧するときの考え方を絶対に変える必要があります。一般の人々の考え方を変える力があるかどうかを大衆に尋ねなければなりません。 **