つい最近、アルトマン氏は非営利団体「Center for AI Safety」（AI安全センター）が主催する共同公開書簡に署名した。書簡には、「人工知能によってもたらされる絶滅の危険を防ぐことは、パンデミックや核戦争と同様に世界的な優先事項であるべきだ」と書かれている。他の署名者には、OpenAI 社の同僚や Microsoft と Google のコンピュータ科学者が含まれます。
米国の人工知能企業である OpenAI の CEO であるサム・アルトマンは、人工知能の最も強力な支持者です。画像出典：ジャン・ハイユン
「私たちは現実的かつ即時的な方法で過去を再現し、対話する機会を得るでしょう」と彼は『Mind Children: The Future of Robot and Human Intelligence』の中で書いています。
起業家で発明家のレイ・カーツワイルも、近年シンギュラリティの最大の提唱者です。カーツワイルは、1990 年の『The Age of Intelligent Machines』と 2005 年の『The Singularity Is Near』の著者です。カーツワイルは現在、『The Singularity Is Near』という本を執筆中です。
長年の AI 起業家であり、『人工知能: 誰もが知っておくべきこと』の著者であるジェリー・カプラン氏によると、「大規模な言語モデルに質問すると、最終的に、言語モデルは質問の意味を理解し、答えがどうあるべきかを判断し、書き言葉で答えなさい。これが一般知性の定義ではないとしたら、何が定義なのでしょうか？」
カプラン氏はまた、自動運転車や仮想通貨などの注目を集めるテクノロジーには懐疑的だと述べた。同様に、彼は以前は最新の AI ブームについて懐疑的でしたが、AI がもたらす可能性を見て AI について考えを変え始めました。
「お金を追ってください」と、技術的特異点をユーモラスに描いたSF小説『The Rapture of the Nerds』の共著者であるチャールズ・ストロスは言う。ストロスはSF小説『アッチェレランド』の著者でもあり、その中で彼もまた、未来の生活がどのようなものになるのかについて、より本格的かつ本格的な絵を描いている。
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
シリコンバレーでは人工知能の「シンギュラリティ」について熱く議論されている：機械が人間を超える時代は来たのか？
出典: 36 クリプトン
編集者注：人工知能の出現により「シンギュラリティ」という概念が前面に押し出されており、シリコンバレーでは人工知能が人間社会を一変させると多くの人が信じています。しかし、AIが人類を滅ぼす可能性など、AIの潜在的な悪影響についても懸念されています。この記事は、著者が「シンギュラリティ」の概念について論じ、人工知能に対するシリコンバレーの興奮と懸念について論じ、このテクノロジーの潜在的な利点とリスクを強調する編集版からのものです。
シリコンバレーは何十年もの間、人間のライフスタイル、経済、社会制度などに革命をもたらす新しいテクノロジーの出現を期待してきました。人間と機械を結びつけ、前例のない機会と課題をもたらし、歴史を「前」と「後」の 2 つの時代に分ける可能性があります。
このマイルストーンの名前は「シンギュラリティ」と呼ぶことができます。
特異点はさまざまな方法で発生する可能性があります。可能性の 1 つは、人々が自らの生来の知性にコンピューターの処理能力を組み込むことで、自分自身をより強力にしたということです。あるいは、コンピュータが実際に思考できるほど複雑になり、「グローバルな頭脳」が形成されるかもしれない。
どちらのシナリオも劇的な指数関数的な変化をもたらし、その変化はいずれも元に戻すことはできません。どの科学者チームよりもはるかに速く自らを設計、改善、アップグレードできる自己認識型の超知能マシンが誕生すれば、間違いなく知的爆発を引き起こすでしょう。過去何世紀にもわたって行われた進歩が、わずか数年、場合によっては数か月で画期的なものになることもあります。シンギュラリティは未来へのカタパルトです。
今日、人工知能はテクノロジー、ビジネス、政治の分野で前例のない波を起こしています。シリコンバレーから出てくるあらゆる誇張と不条理から判断すると、この非常にバラ色の未来がついに到来したようです。
普段は控えめなグーグルのサンダー・ピチャイ最高経営責任者（CEO）は、「人工知能は重要性と影響力において、火や電気、あるいは過去のあらゆる技術的成果を上回っている」と述べた。億万長者の投資家リード・ホフマン（リード・ホフマン）は、「世界は人類社会全体を前進させる前例のない力をもたらすだろう」と述べ、マイクロソフトの共同創設者ビル・ゲイツ（ビル・ゲイツ）は、人工知能が「やり方を変えるだろう」と宣言した。人々は働き、学び、旅行し、医療を受け、そして互いにコミュニケーションをとります。」
人工知能はシリコンバレー発の究極の新製品であり、オンデマンドで超人的な能力を発揮します。
しかし、無視できない問題も隠れています。まるでテクノロジー企業が、ウォルマートに行く途中で爆発するかもしれないという警告メッセージを付けて自動運転車を世に送り出すようなものだ。
今年5月、テスラとツイッターのトップ、イーロン・マスク氏は米コンシューマー・ニュース・ビジネス・チャンネル（CNBC）のインタビューで、「汎用人工知能の出現は奇跡と呼ばれている。重要なのはこの後に起こるということだ」と語った。次に何が起こるかを予測するのは難しいだろう」と彼は、私たちが「豊かな時代」（豊かな時代）を迎えると信じているが、人工知能が「人類を破壊する」リスクは「依然として容認できない」としている。 」。
テクノロジーの世界において、人工知能の最も強力な支持者は、アメリカの人工知能企業 OpenAI の CEO であるサム・アルトマンです。昨年発売されたこのスタートアップの ChatGPT チャットボットもまた、継続的な熱意を引き起こしています。アルトマン氏は、AIは「多くの人にとって経済的エンパワーメントと富をもたらす最大の力」になるだろうと述べた。
しかし、ブレイン・コンピューター・インターフェース技術を開発する会社を設立したマスク氏にとって、マスク氏の批判は正当だとも感じている。
つい最近、アルトマン氏は非営利団体「Center for AI Safety」（AI安全センター）が主催する共同公開書簡に署名した。書簡には、「人工知能によってもたらされる絶滅の危険を防ぐことは、パンデミックや核戦争と同様に世界的な優先事項であるべきだ」と書かれている。他の署名者には、OpenAI 社の同僚や Microsoft と Google のコンピュータ科学者が含まれます。
黙示録はシリコンバレーではよく知られており、人気のあるトピックです。数年前、テクノロジー企業のほぼすべての企業幹部は、人里離れた場所に、必要な場合に備えて十分な備蓄を備えた終末シェルターを建設していたようだ。 2016年、アルトマン氏はまた、「銃、金、ヨウ化カリウム、抗生物質、電池、水、IDFガスマスクを買いだめし、飛行機ですぐに入れる大規模な避難所をビッグサーに建設した」とも語った。このテクノロジーの生存者たちは、少なくともしばらくの間は、自分が正しかったと感じました。
彼らは今、特異点の到来に備えて準備を進めている。
この点に関して、『知性の幻想』の著者バルドゥル・ビャルナソン氏は、「彼らは自分たちが非常に賢明であると思っているが、彼らの言葉はむしろ西暦1000年のようだ。修道士たちが黙示録について話している。それは少し心配だ」と語った。
「Beyond」の由来
「特異点」の概念の起源は、1950 年代のコンピューター サイエンスの先駆者ジョン フォン ノイマンにまで遡ることができます。フォン・ノイマンはかつて、「絶え間なく加速するテクノロジーの進歩」が「人類史上極めて重要な特異点」をもたらすだろうと予言した。
英国の数学者アーヴィング・ジョン・グッドもこの見解の強力な支持者でした。彼はブレッチリー・パーク（ブレッチリー・パーク、第二次世界大戦中に英国政府が暗号解読を行った主な場所）でドイツのエニグマ暗号機を解読する英国政府を支援した。 1964年、彼は「超知能機械の早期構築が人類生存の鍵である」と書いた。
アメリカの映画監督スタンリー・キューブリックが SF 映画『2001 年宇宙の旅』の撮影を監督したとき、彼はグッド監督に、この映画の善良な性格から悪意のある人工知能のキャラクター、HAL についてアドバイスを求めました。これは、コンピュータ サイエンスとコンピュータ サイエンスとの境界があいまいになった初期の例です。 SF。
カーネギーメロン大学ロボット工学研究所の非常勤教授ハンス・モラベック氏は、シンギュラリティの到来は生者に利益をもたらすだけでなく、死者をも生き返らせると信じている。
「私たちは現実的かつ即時的な方法で過去を再現し、対話する機会を得るでしょう」と彼は『Mind Children: The Future of Robot and Human Intelligence』の中で書いています。
起業家で発明家のレイ・カーツワイルも、近年シンギュラリティの最大の提唱者です。カーツワイルは、1990 年の『The Age of Intelligent Machines』と 2005 年の『The Singularity Is Near』の著者です。カーツワイルは現在、『The Singularity Is Near』という本を執筆中です。
彼は、この 10 年の終わりまでに、コンピューターはチューリング テストに合格し、人間と見分けがつかなくなるだろうと予測しています。さらに 15 年後、真の超越性が訪れるでしょう。「コンピューティング テクノロジーが私たちに統合されると、私たちの知性はおそらく数百倍に大幅に強化されるでしょう。」
その時カーツワイル氏は97歳になる。さまざまなビタミンやサプリメントの助けを借りて、彼はこの時代が来るまで生きていきたいと願っています。
シンギュラリティを批判する人の中には、シンギュラリティの概念は組織化された宗教的信念に似た信念体系をソフトウェア分野で構築しようとしていると考える人もいますが、厳密な科学的証拠によって裏付けられているため、説得力を持つのは困難です。
「彼らは皆、不死を望んでいますが、『神』を信じたくはありません」とMITコンピュータサイエンス・人工知能研究所の元所長ロドニー・ブルックス氏は言う。
現在、「シンギュラリティ」論争におけるイノベーションには主に、チャットボット開発の中心でもある人工知能システムであるラージ言語モデル (LLM) が関係しています。これらの大規模な言語モデルと話すと、質問に迅速に、一貫して、そして多くの場合非常に啓発的な答えを返すことができます。
長年の AI 起業家であり、『人工知能: 誰もが知っておくべきこと』の著者であるジェリー・カプラン氏によると、「大規模な言語モデルに質問すると、最終的に、言語モデルは質問の意味を理解し、答えがどうあるべきかを判断し、書き言葉で答えなさい。これが一般知性の定義ではないとしたら、何が定義なのでしょうか？」
カプラン氏はまた、自動運転車や仮想通貨などの注目を集めるテクノロジーには懐疑的だと述べた。同様に、彼は以前は最新の AI ブームについて懐疑的でしたが、AI がもたらす可能性を見て AI について考えを変え始めました。
「これが『特異点』ではないとしても、確かにそうです。これは人類の芸術、科学、知識を大きく進歩させる多大な影響を与える技術です。そしてもちろん、いくつかの問題を引き起こすでしょう。」追加した。
批評家は、たとえ大規模な言語モデルが目覚ましい結果を達成したとしても、それはシンギュラリティによって描かれる広大な地球規模のインテリジェンスに匹敵することはできないと反論します。誇大広告と現実の間に線を引く際の問題の 1 つは、このテクノロジーを推進する原理とアルゴリズムを明らかにすることがますます困難になっていることです。
OpenAI は、オープン ソース コードを使用する非営利企業としてスタートしましたが、その後、営利企業に変わりました。一部の批評家は、OpenAI は現在事実上「ブラック ボックス」であり、誰もがその内部の仕組みを理解するのが難しいと指摘しています。この点、GoogleやMicrosoftも情報開示の度合いは低い。
人工知能に関する現在の研究の多くは、その結果から恩恵を受ける立場にある企業によって主導されています。 OpenAIの最新モデルの暫定版は、「抽象化能力、理解力、視覚化能力、コーディング能力」や「人間の動機や感情を理解する能力」など「複数のインテリジェントな機能を実証」している。
スタンフォード大学のコンピューターサイエンス博士課程の学生であるライラン・シェーファー氏は、一部のAI研究者はこれらの大規模な言語モデルが示す「創発的な力」を不正確に説明していると述べている。これらの大規模な言語モデルには未知の、解釈が難しい機能がいくつかありますが、これらの機能は、小規模な言語モデル バージョンでは明らかではないか、存在しません。
シェーファー氏とスタンフォード大学の他の2人の同僚、ブランド・ミランダ氏とサンミ・コエジョ氏は、5月に発表された研究論文でこの疑問を検討し、この新たな能力は測定誤差によって引き起こされる「幻想」にすぎず、モデルのサイズや複雑さの増加によるものではないと結論付けた。 。実際、研究者は自分が見たい結果を見たいと考える傾向があるかもしれません。
不死、不死
ワシントン、ロンドン、ブリュッセルでは、議員らが人工知能によってもたらされる機会と問題を認識し始めており、規制問題について議論し始めている。アルトマン氏は、OpenAI の宣伝ロードショーを行っており、初期の批判者を一掃するとともに、自社をシンギュラリティ時代のリーダーとして位置づけることを目指しています。
これには規制を受け入れることが含まれますが、規制の具体的な形式はまだ明確ではありません。それでもシリコンバレーでは、政府機関は非効率で、急速に変化するテクノロジー分野を効果的に規制するための専門知識が不足しているという認識が広く浸透している。
Googleの元最高経営責任者（CEO）エリック・シュミット氏は今年初め、ニューストーク番組「ミート・ザ・プレス」で「政府機関にはこれを正しく理解している人はいない」と語り、人工知能の自主規制という考えを提唱した。 「しかし、業界には規制をほぼ正しくする能力が業界内にある」と彼は付け加えた。
人工知能は、技術的特異点と同様、それがもたらす変化を元に戻すことができないものとみなされています。アルトマン氏と彼の同僚は最近、「人工知能のさらなる発展を抑制するには、世界的な規制システムと同様の制御メカニズムを確立する必要があるが、それでも成功を保証できるわけではない」と述べた。それ。
しかし、そこから生み出される莫大な利益については、現在ほとんど議論されていません。人工知能は無限の富を生み出す機械であるという一般的な認識にもかかわらず、実際に人工知能から利益を得ているのは本質的にすでに裕福な人々です。
今年、マイクロソフトの市場価値は5兆ドル急騰した。人工知能を実行するシステム用のチップを製造するエヌビディアも、最近ではチップの需要の急増により、米国で最も価値のある上場企業の1つとなった。
アルトマン氏は「人工知能は人間社会が常に望んできたテクノロジーだ」とツイートした。
これはまさにテクノロジー業界が待ち望んでいたテクノロジーであり、絶好のタイミングで到来したことは否定できません。
昨年、シリコンバレーは人員削減と金利上昇という二重の苦境に見舞われた一方、仮想通貨は好況と不況を経て、詐欺とそれに伴う失望により急速に衰退した。
「お金を追ってください」と、技術的特異点をユーモラスに描いたSF小説『The Rapture of the Nerds』の共著者であるチャールズ・ストロスは言う。ストロスはSF小説『アッチェレランド』の著者でもあり、その中で彼もまた、未来の生活がどのようなものになるのかについて、より本格的かつ本格的な絵を描いている。
同氏は、「本当のチャンスは、企業が多くの欠陥があり、高価で、反応しない人間が操作する情報処理装置をソフトウェアに置き換えることができるようになり、それによってコストが削減され、効率が向上することだ」と述べた。
長い間、人々は技術的特異点を、人間の認知システムを完全に覆す可能性のある世界的な影響を与える出来事として想像してきましたが、この変化の力は驚くべきものです。今のところ、この可能性はまだ残っています。
しかし、今日のシリコンバレーでは企業の利益を極端に追求していることもあり、これはそもそも技術的特異点が解雇の手段として利用されることにつながるだろう。時価総額1兆ドルを追求するためには、ささいな問題は当面脇に置くことができる。