Pour attirer plus de développeurs, OpenAI prévoit une vague de mises à jour majeures et réduit jusqu’à 20 fois le coût de création d’applications ChatGPT !
Les développeurs du monde entier souffrent depuis longtemps du prix des modèles OpenAI.
Reuters a annoncé que lors de la première conférence des développeurs le 6 novembre, OpenAI lancera une mise à jour annuelle à succès :
Ajoutez du stockage de mémoire aux outils de développement, ce qui réduit considérablement les coûts des API de 95 %.
En d’autres termes, l’évangile que les développeurs attendaient est enfin arrivé, et à l’avenir, les applications pourront être construites avec des modèles GPT à moindre coût et à une vitesse plus rapide.
En outre, OpenAI prévoit également de lancer de nouveaux outils de développement dotés de capacités de « vision ».
De cette façon, les développeurs peuvent créer des applications plus puissantes qui « analysent les images » et « décrivent les images ».
L’ouverture de ces nouvelles fonctions pointe finalement vers un objectif commun : construire des agents d’IA soutenus par de grands modèles.
La décision d’OpenAI suit la vision de Sam Altman non seulement d’ouvrir le marché aux utilisateurs, mais aussi de devenir une entreprise qui offre une plate-forme de développement populaire.
OpenAI fait baisser le prix
En novembre dernier, ChatGPT a été lancé, attirant des centaines de millions de personnes dans le monde entier, posant une étape importante dans la croissance des utilisateurs d’applications grand public.
En plus de la version web, ChatGPT est également disponible pour iOS, ainsi qu’une version Android de l’application.
Un tel volume de téléchargement objectif apportera un certain profit à OpenAI. Les dirigeants internes s’attendent à un chiffre d’affaires de 200 millions de dollars cette année et de 1 milliard de dollars en 24.
On peut voir que ChatGPT s’est établi dans le groupe des consommateurs, mais dans le cercle de développement, permettre aux développeurs de créer des entreprises basées sur la technologie OpenAI se heurte à de nombreux défis.
Selon le PDG Altman, faire d’OpenAI une partie intégrante de la création d’applications par d’autres entreprises est l’un des objectifs stratégiques de l’entreprise.
Il a rencontré des développeurs et a exprimé avec enthousiasme son désir de construire un nouvel écosystème basé sur les modèles OpenAI.
À l’heure actuelle, les capacités du modèle GPT ont été intégrées dans d’innombrables applications telles que la version américaine de « Ele.me » DoorDash et l’assistant d’écriture Jasper.
Cependant, cela ne suffit pas.
En juin, Sam Altman a révélé sa future feuille de route produit dans une interview avec le PDG de la plateforme de développement d’IA Humanloop.
L’un des points mentionnés est « l’API avec état » - la plupart des jetons sont actuellement gaspillés dans la transmission ci-dessus, et il y aura une version de l’API qui pourra se souvenir de l’historique des conversations à l’avenir.
Cela coïncide avec l’idée d’ajouter du « stockage mémoire ». L’ajout de cette fonctionnalité permet d’optimiser les coûts pour plusieurs raisons :
La nouvelle fonctionnalité de mise en cache est similaire au principe de la chaîne de mémoire de LangChain, qui peut convertir l’historique des conversations précédentes en vecteurs intégrés pour le stockage. Le nouveau contenu de session n’a besoin que d’être traité dans un balisage incrémentiel sans avoir à saisir à nouveau l’ensemble du contexte.
- Les caractères et fonctions prédéfinis n’ont pas non plus besoin d’être saisis à nouveau, il suffit de faire une recherche de similarité.
Lors du calcul du modèle, les graphiques CUDA n’ont besoin que d’afficher les deltas, sans avoir à parcourir à nouveau globalement en fonction de l’historique des conversations.
En bref, cela permettra d’optimiser grandement le nombre de jetons.
La sortie prévue de ce que l’on appelle les « API mémorisées » permet aux modèles de créer des applications à moindre coût en se souvenant de l’historique des conversations des requêtes.
Cela peut représenter une réduction importante, et les développeurs devront payer pour l’API.
Selon les prix sur le site officiel d’OpenAI, le traitement d’une page de documents avec GPT-4 peut actuellement coûter 10 cents, en fonction de la longueur et de la complexité des entrées et des sorties.
Une autre mise à jour est l’API Vision, qui permet aux développeurs de créer des logiciels capables d’analyser des images.
Cela marque également une étape importante pour OpenAI afin de continuer à faire progresser les capacités multimodales, et il y aura certainement des capacités audio et vidéo à l’avenir.
Attrapez les développeurs, en faisant
Afin d’attirer plus de développeurs, OpenAI a également fait beaucoup d’efforts.
L’année dernière, Logan Kilpatrick, le premier ingénieur responsable de la mise en place de la relation avec les développeurs d’OpenAI, a été embauché.
Il met souvent à jour les outils et le contenu qui profitent aux développeurs.
Le réglage fin de l’interface utilisateur prend désormais en charge la création de tâches de bout en bout dans l’interface utilisateur pour démarrer des tâches sans code.
De plus, OpenAI est sur le point de publier la version 1.0 du SDK Python d’OpenAI.
La publication de mises à jour du tableau de bord d’utilisation de l’API permet de fournir une image plus claire des modèles qui stimulent l’utilisation et devraient être plus robustes dans l’ensemble.
De plus, on peut voir qu’OpenAI est orienté vers les développeurs et a fait beaucoup d’optimisation pour divers travaux tels que l’adaptation des modèles et l’interface utilisateur.
Tout cela dans le but d’inciter davantage de développeurs à payer pour utiliser les modèles d’OpenAI.
Selon PitchBook, les startups d’IA ont reçu plus de 20 milliards de dollars d’investissements cette année.
Alors que beaucoup d’entre elles s’appuient sur la technologie fournie par OpenAI, ces startups s’efforcent également de diversifier les modèles qu’elles utilisent, comme l’adoption de solutions open source telles que Llama. Et cela oblige OpenAI à se différencier de concurrents aux poches profondes comme Google.
Selon Reuters, le maintien de la satisfaction des développeurs a toujours été une priorité pour OpenAI.
Cependant, même si ChatGPT a connu un énorme succès auprès des consommateurs, OpenAI n’a pas eu le soutien d’autres entreprises ou développeurs.
Par exemple, le très attendu système de plug-in ChatGPT, après la première vague d’engouement, l’intérêt des utilisateurs et des développeurs s’est effondré.
Sam Altman a ensuite admis que le plugin n’était pas aussi commercialisable que prévu.
Prix en un coup d’œil
GPT-4
GPT-3.5 Turbo
Peaufiner le modèle
Ressources:
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Créez un remplacement de ChatGPT, le coût a chuté de 95% ! La mise à jour hardcore d’OpenAI sera publiée le mois prochain, et l’API Vision arrive
Source de l’article : Qubit
Editeur: Peach So Sleepy
Les développeurs du monde entier souffrent depuis longtemps du prix des modèles OpenAI.
Reuters a annoncé que lors de la première conférence des développeurs le 6 novembre, OpenAI lancera une mise à jour annuelle à succès :
En d’autres termes, l’évangile que les développeurs attendaient est enfin arrivé, et à l’avenir, les applications pourront être construites avec des modèles GPT à moindre coût et à une vitesse plus rapide.
De cette façon, les développeurs peuvent créer des applications plus puissantes qui « analysent les images » et « décrivent les images ».
La décision d’OpenAI suit la vision de Sam Altman non seulement d’ouvrir le marché aux utilisateurs, mais aussi de devenir une entreprise qui offre une plate-forme de développement populaire.
OpenAI fait baisser le prix
En novembre dernier, ChatGPT a été lancé, attirant des centaines de millions de personnes dans le monde entier, posant une étape importante dans la croissance des utilisateurs d’applications grand public.
En plus de la version web, ChatGPT est également disponible pour iOS, ainsi qu’une version Android de l’application.
Un tel volume de téléchargement objectif apportera un certain profit à OpenAI. Les dirigeants internes s’attendent à un chiffre d’affaires de 200 millions de dollars cette année et de 1 milliard de dollars en 24.
Selon le PDG Altman, faire d’OpenAI une partie intégrante de la création d’applications par d’autres entreprises est l’un des objectifs stratégiques de l’entreprise.
Il a rencontré des développeurs et a exprimé avec enthousiasme son désir de construire un nouvel écosystème basé sur les modèles OpenAI.
À l’heure actuelle, les capacités du modèle GPT ont été intégrées dans d’innombrables applications telles que la version américaine de « Ele.me » DoorDash et l’assistant d’écriture Jasper.
Cependant, cela ne suffit pas.
En juin, Sam Altman a révélé sa future feuille de route produit dans une interview avec le PDG de la plateforme de développement d’IA Humanloop.
L’un des points mentionnés est « l’API avec état » - la plupart des jetons sont actuellement gaspillés dans la transmission ci-dessus, et il y aura une version de l’API qui pourra se souvenir de l’historique des conversations à l’avenir.
En bref, cela permettra d’optimiser grandement le nombre de jetons.
Cela peut représenter une réduction importante, et les développeurs devront payer pour l’API.
Selon les prix sur le site officiel d’OpenAI, le traitement d’une page de documents avec GPT-4 peut actuellement coûter 10 cents, en fonction de la longueur et de la complexité des entrées et des sorties.
Une autre mise à jour est l’API Vision, qui permet aux développeurs de créer des logiciels capables d’analyser des images.
Attrapez les développeurs, en faisant
Afin d’attirer plus de développeurs, OpenAI a également fait beaucoup d’efforts.
L’année dernière, Logan Kilpatrick, le premier ingénieur responsable de la mise en place de la relation avec les développeurs d’OpenAI, a été embauché.
Le réglage fin de l’interface utilisateur prend désormais en charge la création de tâches de bout en bout dans l’interface utilisateur pour démarrer des tâches sans code.
Selon PitchBook, les startups d’IA ont reçu plus de 20 milliards de dollars d’investissements cette année.
Alors que beaucoup d’entre elles s’appuient sur la technologie fournie par OpenAI, ces startups s’efforcent également de diversifier les modèles qu’elles utilisent, comme l’adoption de solutions open source telles que Llama. Et cela oblige OpenAI à se différencier de concurrents aux poches profondes comme Google.
Selon Reuters, le maintien de la satisfaction des développeurs a toujours été une priorité pour OpenAI.
Cependant, même si ChatGPT a connu un énorme succès auprès des consommateurs, OpenAI n’a pas eu le soutien d’autres entreprises ou développeurs.
Par exemple, le très attendu système de plug-in ChatGPT, après la première vague d’engouement, l’intérêt des utilisateurs et des développeurs s’est effondré.
Sam Altman a ensuite admis que le plugin n’était pas aussi commercialisable que prévu.
Prix en un coup d’œil
GPT-4