Cree un reemplazo de ChatGPT, ¡el costo se ha desplomado en un 95%! La actualización hardcore de OpenAI se lanzará el próximo mes y llegará la API de Vision
Para atraer a más desarrolladores, OpenAI está planeando una ola de actualizaciones importantes y reduciendo el costo de crear aplicaciones de ChatGPT hasta 20 veces.
Los desarrolladores de todo el mundo han sufrido el precio de los modelos de OpenAI durante mucho tiempo.
Reuters dio la noticia de que en la primera conferencia de desarrolladores el 6 de noviembre, OpenAI lanzará una actualización anual de gran éxito:
Agregue almacenamiento de memoria a las herramientas de desarrollo, lo que reduce significativamente los costos de API en un 95%.
En otras palabras, el evangelio que los desarrolladores han estado esperando finalmente ha llegado, y en el futuro, las aplicaciones se pueden construir con modelos GPT a un costo menor y a mayor velocidad.
Además, OpenAI también planea lanzar nuevas herramientas de desarrollo con capacidades de "visión".
De esta manera, los desarrolladores pueden crear aplicaciones más potentes que "analicen imágenes" y "describan imágenes".
La apertura de estas nuevas funciones apunta, en última instancia, a un objetivo común: construir agentes de IA soportados por grandes modelos.
El movimiento de OpenAI sigue la visión de Sam Altman no solo de abrir el mercado entre los usuarios, sino también de convertirse en una empresa que ofrezca una plataforma popular para desarrolladores.
OpenAI baja el precio
El pasado mes de noviembre se lanzó ChatGPT, que atrajo a cientos de millones de personas en todo el mundo, marcando un hito en el crecimiento de los usuarios de aplicaciones de consumo.
Además de la versión web, ChatGPT también está disponible para iOS, así como una versión para Android de la aplicación.
Un volumen de descargas tan objetivo traerá algunos beneficios a OpenAI. Los ejecutivos internos esperan 200 millones de dólares en ingresos este año y 1.000 millones de dólares en 2024.
Se puede ver que ChatGPT se ha establecido en el grupo de consumidores, pero en el círculo de desarrollo, permitir a los desarrolladores construir negocios basados en la tecnología OpenAI enfrenta muchos desafíos.
Según el CEO Altman, hacer de OpenAI una parte integral de la creación de aplicaciones por parte de otras empresas es uno de los objetivos estratégicos de la empresa.
Se reunió con desarrolladores y expresó con entusiasmo su deseo de construir un nuevo ecosistema basado en modelos de OpenAI.
En la actualidad, las capacidades del modelo GPT se han integrado en innumerables aplicaciones, como la versión estadounidense de "Ele.me" DoorDash y el asistente de escritura Jasper.
Sin embargo, esto no es suficiente.
En junio, Sam Altman reveló su futura hoja de ruta de productos en una entrevista con el CEO de la plataforma de desarrollo de IA Humanloop.
Uno de los puntos mencionados es la "API con estado": la mayoría de los tokens se desperdician actualmente en la transmisión anterior, y habrá una versión de la API que puede recordar el historial de conversaciones en el futuro.
Esto coincide con la idea de añadir "almacenamiento de memoria". Agregar esta característica puede optimizar los costos por varias razones:
La nueva función de almacenamiento en caché es similar al principio de cadena de memoria de LangChain, que puede convertir el historial de conversaciones anteriores en vectores incrustados para su almacenamiento. El nuevo contenido de la sesión solo debe procesarse en marcado incremental sin tener que volver a entrar en todo el contexto.
- Tampoco es necesario volver a introducir los caracteres y las funciones preestablecidas, basta con realizar una búsqueda de similitud.
Durante el cálculo del modelo, los gráficos CUDA solo necesitan ver los deltas, sin tener que volver a navegar globalmente en función del historial de chat.
En resumen, esto optimizará en gran medida la cantidad de tokens.
El lanzamiento planificado de las llamadas "API memorizadas" permite a los modelos crear aplicaciones a un costo menor al recordar el historial de conversaciones de las consultas.
Esto puede ser un gran recorte, y los desarrolladores tendrán que pagar por la API.
Según los precios del sitio web oficial de OpenAI, procesar una página de documentos con GPT-4 puede costar actualmente 10 céntimos, dependiendo de la longitud y complejidad de las entradas y salidas.
Otra actualización es la API de Vision, que permite a los desarrolladores crear software que puede analizar imágenes.
Esto también marca un paso importante para que OpenAI continúe avanzando en las capacidades multimodales, y definitivamente habrá capacidades de audio y video en el futuro.
Agarra a los desarrolladores, al hacer
Con el fin de atraer a más desarrolladores, OpenAI también ha hecho muchos esfuerzos.
El año pasado, se contrató a Logan Kilpatrick, el primer ingeniero responsable de construir la relación con los desarrolladores de OpenAI.
A menudo actualiza herramientas y contenido que benefician a los desarrolladores.
El ajuste de la interfaz de usuario ahora admite la creación de trabajos de un extremo a otro en la interfaz de usuario para iniciar trabajos sin código.
Además, OpenAI está a punto de lanzar la versión 1.0 del SDK de OpenAI para Python.
La publicación de actualizaciones en el panel de uso de la API ayuda a proporcionar una imagen más clara de qué modelos están impulsando el uso y deberían ser más sólidos en general.
Además, se puede ver que OpenAI está orientado a desarrolladores y ha hecho mucha optimización para diversos trabajos como la adaptación del modelo y la interfaz de usuario.
Todo esto es para atraer a más desarrolladores a pagar por usar los modelos de OpenAI.
Según PitchBook, las startups de IA han recibido más de 20.000 millones de dólares en inversiones este año.
Si bien muchas de ellas dependen de la tecnología proporcionada por OpenAI, estas startups también están trabajando para diversificar los modelos que utilizan, como la adopción de soluciones de código abierto como Llama. Y eso hace que OpenAI tenga que diferenciarse de competidores con mucho dinero como Google.
Según Reuters, mantener la satisfacción de los desarrolladores siempre ha sido un objetivo para OpenAI.
Sin embargo, a pesar de que ChatGPT ha tenido un gran éxito entre los consumidores, OpenAI no ha tenido tanto apoyo como el de otras empresas o desarrolladores.
Por ejemplo, el muy esperado sistema de plug-ins ChatGPT, después de la ola inicial de locura, el interés de los usuarios y desarrolladores se desplomó.
Sam Altman admitió entonces que el plugin no era tan comercializable como se esperaba.
Precio de un vistazo
GPT-4
GPT-3.5 Turbo
Afinar el modelo
Recursos:
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Cree un reemplazo de ChatGPT, ¡el costo se ha desplomado en un 95%! La actualización hardcore de OpenAI se lanzará el próximo mes y llegará la API de Vision
Fuente del artículo: Qubit
Editor: Peach So Sleepy
Los desarrolladores de todo el mundo han sufrido el precio de los modelos de OpenAI durante mucho tiempo.
Reuters dio la noticia de que en la primera conferencia de desarrolladores el 6 de noviembre, OpenAI lanzará una actualización anual de gran éxito:
En otras palabras, el evangelio que los desarrolladores han estado esperando finalmente ha llegado, y en el futuro, las aplicaciones se pueden construir con modelos GPT a un costo menor y a mayor velocidad.
De esta manera, los desarrolladores pueden crear aplicaciones más potentes que "analicen imágenes" y "describan imágenes".
El movimiento de OpenAI sigue la visión de Sam Altman no solo de abrir el mercado entre los usuarios, sino también de convertirse en una empresa que ofrezca una plataforma popular para desarrolladores.
OpenAI baja el precio
El pasado mes de noviembre se lanzó ChatGPT, que atrajo a cientos de millones de personas en todo el mundo, marcando un hito en el crecimiento de los usuarios de aplicaciones de consumo.
Además de la versión web, ChatGPT también está disponible para iOS, así como una versión para Android de la aplicación.
Un volumen de descargas tan objetivo traerá algunos beneficios a OpenAI. Los ejecutivos internos esperan 200 millones de dólares en ingresos este año y 1.000 millones de dólares en 2024.
Según el CEO Altman, hacer de OpenAI una parte integral de la creación de aplicaciones por parte de otras empresas es uno de los objetivos estratégicos de la empresa.
Se reunió con desarrolladores y expresó con entusiasmo su deseo de construir un nuevo ecosistema basado en modelos de OpenAI.
En la actualidad, las capacidades del modelo GPT se han integrado en innumerables aplicaciones, como la versión estadounidense de "Ele.me" DoorDash y el asistente de escritura Jasper.
Sin embargo, esto no es suficiente.
En junio, Sam Altman reveló su futura hoja de ruta de productos en una entrevista con el CEO de la plataforma de desarrollo de IA Humanloop.
Uno de los puntos mencionados es la "API con estado": la mayoría de los tokens se desperdician actualmente en la transmisión anterior, y habrá una versión de la API que puede recordar el historial de conversaciones en el futuro.
En resumen, esto optimizará en gran medida la cantidad de tokens.
Esto puede ser un gran recorte, y los desarrolladores tendrán que pagar por la API.
Según los precios del sitio web oficial de OpenAI, procesar una página de documentos con GPT-4 puede costar actualmente 10 céntimos, dependiendo de la longitud y complejidad de las entradas y salidas.
Otra actualización es la API de Vision, que permite a los desarrolladores crear software que puede analizar imágenes.
Agarra a los desarrolladores, al hacer
Con el fin de atraer a más desarrolladores, OpenAI también ha hecho muchos esfuerzos.
El año pasado, se contrató a Logan Kilpatrick, el primer ingeniero responsable de construir la relación con los desarrolladores de OpenAI.
El ajuste de la interfaz de usuario ahora admite la creación de trabajos de un extremo a otro en la interfaz de usuario para iniciar trabajos sin código.
Según PitchBook, las startups de IA han recibido más de 20.000 millones de dólares en inversiones este año.
Si bien muchas de ellas dependen de la tecnología proporcionada por OpenAI, estas startups también están trabajando para diversificar los modelos que utilizan, como la adopción de soluciones de código abierto como Llama. Y eso hace que OpenAI tenga que diferenciarse de competidores con mucho dinero como Google.
Según Reuters, mantener la satisfacción de los desarrolladores siempre ha sido un objetivo para OpenAI.
Sin embargo, a pesar de que ChatGPT ha tenido un gran éxito entre los consumidores, OpenAI no ha tenido tanto apoyo como el de otras empresas o desarrolladores.
Por ejemplo, el muy esperado sistema de plug-ins ChatGPT, después de la ola inicial de locura, el interés de los usuarios y desarrolladores se desplomó.
Sam Altman admitió entonces que el plugin no era tan comercializable como se esperaba.
Precio de un vistazo
GPT-4