ChatGPTの代替品を作成すると、コストが95%急落しました。 OpenAIハードコアアップデートは来月リリースされ、Vision APIが登場します

記事の出典:量子ビット

編集:ピーチ・ソー・スリーピー

より多くの開発者を引き付けるために、OpenAIはメジャーアップデートの波を計画しており、ChatGPTアプリの構築コストを最大20倍削減しています。

世界中の開発者は、長い間OpenAIモデルの価格に苦しんでいます。

ロイターは、11月6日の最初の開発者会議で、OpenAIが毎年恒例の大ヒットアップデートを開始するというニュースを報じました。

開発ツールにメモリストレージを追加すると、APIコストが95%大幅に削減されます。

つまり、開発者が待ち望んでいた福音がついに到来し、将来的にはGPTモデルでより低コストかつ高速にアプリケーションを構築できるようになります。

さらに、OpenAIは「ビジョン」機能を備えた新しい開発ツールの立ち上げも計画しています。

このようにして、開発者は「画像を分析する」および「画像を記述する」より強力なアプリケーションを構築できます。

これらの新機能のオープンは、最終的には、大規模なモデルでサポートされる AI エージェントを構築するという共通の目標を示しています。

OpenAIの動きは、ユーザーの間で市場を開放するだけでなく、人気のある開発者プラットフォームを提供する会社になるというSam Altmanのビジョンに従っています。

OpenAIは価格をノックダウン

昨年11月、ChatGPTがリリースされ、世界中の何億人もの人々を魅了し、消費者向けアプリユーザーの成長にマイルストーンを設定しました。

ウェブバージョンに加えて、ChatGPTはiOSおよびアプリのAndroidバージョンでも利用できます。

このような客観的なダウンロード量は、OpenAIにいくらかの利益をもたらします。 社内幹部は、今年の収益が2億ドル、24年には10億ドルになると予想しています。

ChatGPTは消費者グループでの地位を確立していることがわかりますが、開発サークルでは、開発者がOpenAIテクノロジーに基づいてビジネスを構築できるようにすることは多くの課題に直面しています。

CEOのAltman氏によると、OpenAIをアプリケーションを構築する他の企業の不可欠な部分にすることは、同社の戦略的目標の1つです。

彼は開発者と会い、OpenAIモデルに基づいて新しいエコシステムを構築したいという願望を熱心に表明しました。

現在、GPTモデルの機能は、米国版の「Ele.me」DoorDashやライティングアシスタントのJasperなど、無数のアプリケーションに統合されています。

しかし、これだけでは不十分です。

6月、サム・アルトマンは、AI開発プラットフォームHumanloopのCEOとのインタビューで、将来の製品ロードマップを明らかにしました。

言及されたポイントの1つは「ステートフルAPI」です-ほとんどのトークンは現在上記の送信で無駄になっており、将来の会話の履歴を記憶できるバージョンのAPIがあります。

これは、「メモリストレージ」を追加するというアイデアと一致しています。 この機能を追加すると、いくつかの理由でコストを最適化できます。

-新しいキャッシュ機能は、以前の会話履歴を埋め込みベクトルに変換して保存できるLangChainのメモリチェーンの原則に似ています。 新しいセッション コンテンツは、コンテキスト全体を再入力することなく、増分マークアップで処理するだけで済みます。

-プリセット文字や機能も再入力する必要はなく、類似検索を行うだけです。

• モデル計算中、CUDAグラフは差分を表示するだけでよく、過去のチャット履歴に基づいてグローバルに再度閲覧する必要はありません。

つまり、これによりトークンの数が大幅に最適化されます。

いわゆる「記憶されたAPI」のリリースが計画されているため、モデルはクエリの会話履歴を記憶することで、より低コストでアプリケーションを作成できます。

これは大きな削減になる可能性があり、開発者はAPIの料金を支払う必要があります。

OpenAIの公式ウェブサイトの価格設定によると、GPT-4でドキュメントのページを処理するには、入力と出力の長さと複雑さに応じて、現在10セントの費用がかかる可能性があります。

別のアップデートは、開発者が画像を分析できるソフトウェアを構築できるようにするVision APIです。

これはまた、OpenAIがマルチモーダル機能を進歩させ続けるための重要なステップであり、将来的には間違いなくオーディオおよびビデオ機能があります。

開発者をつかむ

より多くの開発者を引き付けるために、OpenAIも多くの努力を払ってきました。

昨年、OpenAIの開発者関係の構築を担当した最初のエンジニアであるLogan Kilpatrickが採用されました。

彼は、開発者に役立つツールやコンテンツを頻繁に更新しています。

ユーザー インターフェイスの微調整により、ユーザー インターフェイスでのエンド ツー エンドのジョブ作成がサポートされ、コードなしでジョブが開始されるようになりました。

また、OpenAIはOpenAI Python SDKのバージョン1.0をリリースしようとしています。

API 使用状況ダッシュボードに更新を発行すると、どのモデルが使用量を促進しているかをより明確に把握でき、全体的により堅牢である必要があります。

さらに、OpenAIは開発者向けであり、モデルの適応やユーザーインターフェイスなどのさまざまな作業に対して多くの最適化を行っていることがわかります。

これはすべて、OpenAIのモデルを使用するために支払う開発者を増やすためです。

PitchBookによると、AIスタートアップは今年200億ドル以上の投資を受けています。

これらの多くはOpenAIが提供するテクノロジーに依存していますが、これらのスタートアップは、Llamaなどのオープンソースソリューションを採用するなど、使用するモデルの多様化にも取り組んでいます。 そのため、OpenAIはGoogleのような資金力のある競合他社との差別化を図る必要があります。

ロイターによると、開発者の満足度を維持することは、OpenAIにとって常に焦点となっています。

しかし、ChatGPTは消費者の間で大成功を収めていますが、OpenAIは他の企業や開発者からのサポートを獲得していません。

たとえば、待望のChatGPTプラグインシステムは、最初の流行の波の後、ユーザーと開発者の関心が急落しました。

その後、Sam Altmanは、プラグインが期待したほど市場性がないことを認めました。

一目でわかる価格

GPT-4

GPT-3.5ターボ

モデルの微調整

リソース：