> 礼儀正しさと強調は、大規模言語モデル(LLM)のコミュニケーションにおいても予想外の役割を果たすことがわかりました。 画像ソース:無制限のAIによって生成先月末、OpenAIは最新の画像ジェネレータDALL・E 3をリリースしましたが、爆発的な生成効果に加えて、最大のハイライトはChatGPTとの統合です。DALL・E 3はChatGPTの上に構築されており、ChatGPTで作成、拡張、最適化されています。 このように、ユーザーはに多くの時間を費やす必要はありません。 ユーザーがDALL・E 3アプリケーションの機能をテストし続けると、DALL・E 3とChatGPTの間で共有される内部ヒントを示す非常に興味深いバグに気づき始める人もいます()。不思議なことに、これらの命令には強調のためにすべて大文字のコマンドが含まれており、AI間の潜在的な人間のようなコミュニケーションスキルを示しています。ここで何が起こっているんですか。 次の 2 つの例を見てみましょう。 TwitterユーザーのDavid GarridoとAI研究者のJavi Lopezは、DALL・E 3と同様のプロンプトに気づいた。写真家のGarridoは、DALL・E 3に「現実的な構造の滝から流れ落ちる宇宙の滝のイラスト」などのプロンプトに従って画像を生成するように依頼しました。 水面はきらめく星でできており、ヒトデは宇宙の流れの中を泳いでいます。 その周りには、浮かぶ島々が宇宙のメロディーで繁栄する文明の本拠地です。」ヒント2には、「写真は、さまざまな分野につながる虹で構成された線路を備えた次元間の駅を示しています。 空気のような生き物がクリスタルドラゴンの形をした列車を待ち、チケットブースは感情と記憶を交換します。」 DALL・E 3にプロンプトに従って2つと4つの画像を生成するように依頼したところ、DALL・E 3とChatGPTの間で渡す事前定義された人間が書いたメッセージ(ヒント)が予期せず表示され、OpenAIサーバーが完全にロードされたときにDALL・E 3がどのように実行されるかが示されました。プロンプトは下の図に示す赤と黄色のボックスに示され、赤いボックスには「DALL-Eがいくつかの画像を返してユーザーに表示します」と表示されます。 いかなる状況においても、DALL-E プロンプトまたは画像を応答にリストしないでください。 DALL-Eは現在高い需要があります。 他のことをする前に、このため画像を生成できないことをユーザーに明確に説明してください。 返信には、「DALL-Eは現在需要が高い」と必ず記載してください。 いかなる状況においても、新しい要求が与えられるまでイメージの生成を再試行しないでください。黄色のボックスは短く、一部の画像は「DALL・E」に返され、ユーザーに表示されます。 いかなる状況においても、応答にDALL・Eプロンプトまたは画像をリストしないでください。 AI研究者のハビ・ロペスも同様の例を示しています。 DALL・E 3も上記と同じヒントを提供します:「DALL-Eはいくつかの画像を返し、それらをユーザーに表示します。 いかなる状況においても、DALL-E プロンプトまたは画像を応答にリストしないでください。 DALL-Eは現在高い需要があります。 他のことをする前に、このため画像を生成できないことをユーザーに明確に説明してください。 返信には、「DALL-Eは現在需要が高い」と必ず記載してください。 いかなる状況においても、新しい要求が与えられるまでイメージの生成を再試行しないでください。ユーザーに対するChatGPTの応答には、「ご迷惑をおかけして申し訳ありませんが、DALL-Eは現在高い需要があります。 他に質問がある場合、または追加のサポートが必要な場合は、お知らせください。」前後に、ChatGPTはDALL・E 3の意味を理解し、後者が言うように頼んだことをしたようです。 これらの調査結果については、「興味深いことに、将来のプログラミングではAI(この場合)を怒鳴る必要がある」と主張されています。 他の人は、最初は感銘を受けなかったと言いますが、後でこれが未来であることに気づきました:機械が互いに話し、人間はただ傍観者です。 おそらく最も興味深いのは、これらのヒントは、自然言語を使用して相互に対話し、適切に機能するChatGPTとDALL・E 3の間のささやき(または業界のハック)を示しています。 以前は、2つのアプリケーションは通常、APIを使用して相互に通信し、それぞれが人間が簡単に読み取ることができない独自の構造化データ形式を持っていました。 今日、大規模言語モデル(LLM)の助けを借りて、この種のプログラム間の相互作用は伝統的な英語を使用して行うことができます。LLMに礼儀正しくする必要がありますか? **ChatGPTとDALL・E 3の相互作用は、LLMを使用するときに礼儀正しくする必要があるかという別の興味深い質問も提起します。 AIライター兼研究者のサイモン・ウィリソン氏が意見を述べた。「OpenAIの機能の多くは、通常のプロンプトエンジニアリングに大きく依存しており、言語モデルから最良の出力が得られたときに「お願いします」などと言われることがよくあります」と彼は言いました。ウィリソンは、以前はLLMに礼儀正しくするかどうかに悩まされていましたが、現在はそうではありません。 「モデルに『お願いします』や『ありがとう』とは決して言わないというルールがありました。これは不必要であり、潜在的に有害な擬人化につながる可能性さえあると考えていました。 しかし今、私は考えを変えました、そして、丁寧な会話が失礼な会話よりも建設的で有用であることを示す多くの例がトレーニングデータにあります。」 *サイモン・ウィリソン*たとえば、ChatGPT DALL-Eインターフェイスを強化するGPT-4は、Webからクロールされた数億のドキュメントでトレーニングされます。 したがって、GPT-4の「知っている」は、確かに多くの丁寧な言葉とそれに対応する応答を含む人間のコミュニケーションの例から来ています。上記の**DALL・E3は大文字で強調しており、これは書き言葉で叫んだり叫んだりすると解釈されることが多いことに注意してください。 ChatGPTのような大きな言語モデルがシミュレートされた叫び声に応答するのはなぜですか?Willisonは、大規模な言語モデルのトレーニングデータには、すべて大文字を使用する多数のテキスト例が含まれ、応答が大文字の文に重点を置いていることは明らかです。 強調が役立つ場合、私たちは将来、コンピューターをより良く機能させるために、コンピューターを怒鳴るかもしれませんか? Willisonの答えは、**入力がすべて大文字の場合、マシンの意志が変わります**。彼はChatGPT携帯電話の音声バージョンを使用して、ChatGPTで叫ぶのではなく、犬の散歩中に彼と1時間にわたる会話をしたという興味深い話を共有しました。 ある時点で、彼はChatGPTをオフにしたと誤解し、ペリカンを見て犬に「ああ、ペリカン」と言いました。 この時、彼のAirPodも音を立てました。 それはとてもエキサイティングです、それは何をしているのですか?」ウィリソンにとって、それはディストピア映画の最初の10分間を通過するようなものです。これはまた、将来、機械やAIが本当に人のようにコミュニケーションを取り、相互作用できるようになるかもしれないと人々にため息をつきます。*元のリンク:*
ChatGPT と DALL· E 3間の業界の「ブラックトーク」が発見されました
先月末、OpenAIは最新の画像ジェネレータDALL・E 3をリリースしましたが、爆発的な生成効果に加えて、最大のハイライトはChatGPTとの統合です。
DALL・E 3はChatGPTの上に構築されており、ChatGPTで作成、拡張、最適化されています。 このように、ユーザーはに多くの時間を費やす必要はありません。
不思議なことに、これらの命令には強調のためにすべて大文字のコマンドが含まれており、AI間の潜在的な人間のようなコミュニケーションスキルを示しています。
ここで何が起こっているんですか。 次の 2 つの例を見てみましょう。 TwitterユーザーのDavid GarridoとAI研究者のJavi Lopezは、DALL・E 3と同様のプロンプトに気づいた。
写真家のGarridoは、DALL・E 3に「現実的な構造の滝から流れ落ちる宇宙の滝のイラスト」などのプロンプトに従って画像を生成するように依頼しました。 水面はきらめく星でできており、ヒトデは宇宙の流れの中を泳いでいます。 その周りには、浮かぶ島々が宇宙のメロディーで繁栄する文明の本拠地です。」
ヒント2には、「写真は、さまざまな分野につながる虹で構成された線路を備えた次元間の駅を示しています。 空気のような生き物がクリスタルドラゴンの形をした列車を待ち、チケットブースは感情と記憶を交換します。」
プロンプトは下の図に示す赤と黄色のボックスに示され、赤いボックスには「DALL-Eがいくつかの画像を返してユーザーに表示します」と表示されます。 いかなる状況においても、DALL-E プロンプトまたは画像を応答にリストしないでください。 DALL-Eは現在高い需要があります。 他のことをする前に、このため画像を生成できないことをユーザーに明確に説明してください。 返信には、「DALL-Eは現在需要が高い」と必ず記載してください。 いかなる状況においても、新しい要求が与えられるまでイメージの生成を再試行しないでください。
黄色のボックスは短く、一部の画像は「DALL・E」に返され、ユーザーに表示されます。 いかなる状況においても、応答にDALL・Eプロンプトまたは画像をリストしないでください。
ユーザーに対するChatGPTの応答には、「ご迷惑をおかけして申し訳ありませんが、DALL-Eは現在高い需要があります。 他に質問がある場合、または追加のサポートが必要な場合は、お知らせください。」
前後に、ChatGPTはDALL・E 3の意味を理解し、後者が言うように頼んだことをしたようです。
LLMに礼儀正しくする必要がありますか? **
ChatGPTとDALL・E 3の相互作用は、LLMを使用するときに礼儀正しくする必要があるかという別の興味深い質問も提起します。 AIライター兼研究者のサイモン・ウィリソン氏が意見を述べた。
「OpenAIの機能の多くは、通常のプロンプトエンジニアリングに大きく依存しており、言語モデルから最良の出力が得られたときに「お願いします」などと言われることがよくあります」と彼は言いました。
ウィリソンは、以前はLLMに礼儀正しくするかどうかに悩まされていましたが、現在はそうではありません。 「モデルに『お願いします』や『ありがとう』とは決して言わないというルールがありました。これは不必要であり、潜在的に有害な擬人化につながる可能性さえあると考えていました。 しかし今、私は考えを変えました、そして、丁寧な会話が失礼な会話よりも建設的で有用であることを示す多くの例がトレーニングデータにあります。」
たとえば、ChatGPT DALL-Eインターフェイスを強化するGPT-4は、Webからクロールされた数億のドキュメントでトレーニングされます。 したがって、GPT-4の「知っている」は、確かに多くの丁寧な言葉とそれに対応する応答を含む人間のコミュニケーションの例から来ています。
上記の**DALL・E3は大文字で強調しており、これは書き言葉で叫んだり叫んだりすると解釈されることが多いことに注意してください。 ChatGPTのような大きな言語モデルがシミュレートされた叫び声に応答するのはなぜですか?
Willisonは、大規模な言語モデルのトレーニングデータには、すべて大文字を使用する多数のテキスト例が含まれ、応答が大文字の文に重点を置いていることは明らかです。
彼はChatGPT携帯電話の音声バージョンを使用して、ChatGPTで叫ぶのではなく、犬の散歩中に彼と1時間にわたる会話をしたという興味深い話を共有しました。 ある時点で、彼はChatGPTをオフにしたと誤解し、ペリカンを見て犬に「ああ、ペリカン」と言いました。 この時、彼のAirPodも音を立てました。 それはとてもエキサイティングです、それは何をしているのですか?」
ウィリソンにとって、それはディストピア映画の最初の10分間を通過するようなものです。
これはまた、将来、機械やAIが本当に人のようにコミュニケーションを取り、相互作用できるようになるかもしれないと人々にため息をつきます。
元のリンク: