Para atrair mais desenvolvedores, a OpenAI está planejando uma onda de grandes atualizações e reduzindo o custo de criação de aplicativos ChatGPT em até 20x!
Desenvolvedores em todo o mundo têm sofrido com o preço dos modelos OpenAI por um longo tempo.
A Reuters deu a notícia de que na primeira conferência de desenvolvedores em 6 de novembro, a OpenAI lançará uma atualização anual de sucesso:
Adicione armazenamento de memória às ferramentas de desenvolvimento, o que reduz significativamente os custos de API em 95%.
Em outras palavras, o evangelho que os desenvolvedores esperavam finalmente chegou e, no futuro, os aplicativos podem ser construídos com modelos GPT a um custo mais baixo e velocidade mais rápida.
Além disso, a OpenAI também planeja lançar novas ferramentas de desenvolvimento com recursos de "visão".
Desta forma, os desenvolvedores podem construir aplicações mais poderosas que "analisam imagens" e "descrevem imagens".
A abertura dessas novas funções aponta, em última análise, para um objetivo comum: construir agentes de IA suportados por grandes modelos.
O movimento da OpenAI está seguindo a visão de Sam Altman de não apenas abrir o mercado entre os usuários, mas também se tornar uma empresa que oferece uma plataforma de desenvolvedor popular.
OpenAI derruba o preço
Em novembro passado, o ChatGPT foi lançado, atraindo centenas de milhões de pessoas em todo o mundo, estabelecendo um marco no crescimento dos usuários de aplicativos de consumo.
Além da versão web, o ChatGPT também está disponível para iOS, bem como uma versão Android do aplicativo.
Tal volume de download objetivo trará algum lucro para a OpenAI. Os executivos internos esperam US$ 200 milhões em receita este ano e US$ 1 bilhão em 24.
Pode-se ver que o ChatGPT se estabeleceu no grupo de consumidores, mas no círculo de desenvolvimento, permitir que os desenvolvedores construam negócios baseados na tecnologia OpenAI enfrenta muitos desafios.
De acordo com o CEO Altman, tornar a OpenAI parte integrante de outras empresas que criam aplicativos é um dos objetivos estratégicos da empresa.
Ele se reuniu com desenvolvedores e expressou ansiosamente seu desejo de construir um novo ecossistema baseado em modelos OpenAI.
Atualmente, os recursos do modelo GPT foram integrados em inúmeras aplicações, como a versão americana do "Ele.me" DoorDash e o assistente de escrita Jasper.
No entanto, isso não é suficiente.
Em junho, Sam Altman revelou seu futuro roteiro de produtos em uma entrevista com o CEO da plataforma de desenvolvimento de IA Humanloop.
Um dos pontos mencionados é a "Stateful API" - a maioria dos tokens são atualmente desperdiçados na transmissão acima, e haverá uma versão da API que pode lembrar o histórico de conversas no futuro.
Isso coincide com a ideia de adicionar "armazenamento de memória". Adicionar esse recurso pode otimizar os custos por vários motivos:
O novo recurso de cache é semelhante ao princípio da cadeia de memória do LangChain, que pode converter o histórico de conversas anteriores em vetores incorporados para armazenamento. O novo conteúdo da sessão só precisa ser processado em marcação incremental sem ter que reentrar em todo o contexto.
- Caracteres e funções predefinidos também não precisam ser reinseridos, basta fazer uma pesquisa de similaridade.
Durante o cálculo do modelo, os gráficos CUDA só precisam visualizar os deltas, sem ter que navegar globalmente novamente com base no histórico de bate-papo.
Em suma, isso otimizará muito o número de tokens.
O lançamento planejado das chamadas "APIs memorizadas" permite que os modelos criem aplicativos a um custo mais baixo, lembrando o histórico de conversas de consultas.
Isso pode ser um grande corte, e os desenvolvedores precisarão pagar pela API.
De acordo com os preços no site oficial da OpenAI, processar uma página de documentos com GPT-4 pode atualmente custar 10 centavos, dependendo do comprimento e complexidade das entradas e saídas.
Outra atualização é a API Vision, que permite aos desenvolvedores criar software que pode analisar imagens.
Isso também marca um passo importante para a OpenAI continuar a avançar recursos multimodais, e definitivamente haverá recursos de áudio e vídeo no futuro.
Agarre os desenvolvedores, fazendo
A fim de atrair mais desenvolvedores, a OpenAI também fez muitos esforços.
No ano passado, Logan Kilpatrick, o primeiro engenheiro responsável por construir o relacionamento com desenvolvedores da OpenAI, foi contratado.
Ele frequentemente atualiza ferramentas e conteúdo que beneficiam os desenvolvedores.
O ajuste fino da interface do usuário agora oferece suporte à criação de trabalhos de ponta a ponta na interface do usuário para iniciar trabalhos sem código.
Além disso, o OpenAI está prestes a lançar a versão 1.0 do OpenAI Python SDK.
A publicação de atualizações no painel de uso da API ajuda a fornecer uma imagem mais clara de quais modelos estão impulsionando o uso e devem ser mais robustos em geral.
Além disso, pode-se ver que a OpenAI é orientada para desenvolvedores e tem feito muita otimização para vários trabalhos, como adaptação de modelos e interface do usuário.
Tudo isso é para atrair mais desenvolvedores para pagar para usar os modelos da OpenAI.
De acordo com o PitchBook, as startups de IA receberam mais de US$ 20 bilhões em investimentos este ano.
Embora muitas delas dependam da tecnologia fornecida pela OpenAI, essas startups também estão trabalhando para diversificar os modelos que usam, como a adoção de soluções de código aberto como a Llama. E isso faz com que a OpenAI tenha que se diferenciar de concorrentes de bolso profundo como o Google.
De acordo com a Reuters, manter a satisfação dos desenvolvedores sempre foi um foco para a OpenAI.
No entanto, mesmo que o ChatGPT tenha sido extremamente bem-sucedido entre os consumidores, a OpenAI não teve o mesmo apoio de outras empresas ou desenvolvedores.
Por exemplo, o altamente antecipado sistema de plug-in ChatGPT, após a onda inicial de mania, o interesse de usuários e desenvolvedores despencou.
Sam Altman então admitiu que o plugin não era tão comercializável quanto o esperado.
Preço num relance
GPT-4
GPT-3.5 Turbo
Ajuste o modelo
Recursos:
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Crie um substituto ChatGPT, o custo despencou 95%! A atualização hardcore do OpenAI será lançada no próximo mês, e a API Vision está chegando
Fonte do artigo: Qubit
Editor: Pêssego Tão Sonolento
Desenvolvedores em todo o mundo têm sofrido com o preço dos modelos OpenAI por um longo tempo.
A Reuters deu a notícia de que na primeira conferência de desenvolvedores em 6 de novembro, a OpenAI lançará uma atualização anual de sucesso:
Em outras palavras, o evangelho que os desenvolvedores esperavam finalmente chegou e, no futuro, os aplicativos podem ser construídos com modelos GPT a um custo mais baixo e velocidade mais rápida.
Desta forma, os desenvolvedores podem construir aplicações mais poderosas que "analisam imagens" e "descrevem imagens".
O movimento da OpenAI está seguindo a visão de Sam Altman de não apenas abrir o mercado entre os usuários, mas também se tornar uma empresa que oferece uma plataforma de desenvolvedor popular.
OpenAI derruba o preço
Em novembro passado, o ChatGPT foi lançado, atraindo centenas de milhões de pessoas em todo o mundo, estabelecendo um marco no crescimento dos usuários de aplicativos de consumo.
Além da versão web, o ChatGPT também está disponível para iOS, bem como uma versão Android do aplicativo.
Tal volume de download objetivo trará algum lucro para a OpenAI. Os executivos internos esperam US$ 200 milhões em receita este ano e US$ 1 bilhão em 24.
De acordo com o CEO Altman, tornar a OpenAI parte integrante de outras empresas que criam aplicativos é um dos objetivos estratégicos da empresa.
Ele se reuniu com desenvolvedores e expressou ansiosamente seu desejo de construir um novo ecossistema baseado em modelos OpenAI.
Atualmente, os recursos do modelo GPT foram integrados em inúmeras aplicações, como a versão americana do "Ele.me" DoorDash e o assistente de escrita Jasper.
No entanto, isso não é suficiente.
Em junho, Sam Altman revelou seu futuro roteiro de produtos em uma entrevista com o CEO da plataforma de desenvolvimento de IA Humanloop.
Um dos pontos mencionados é a "Stateful API" - a maioria dos tokens são atualmente desperdiçados na transmissão acima, e haverá uma versão da API que pode lembrar o histórico de conversas no futuro.
Em suma, isso otimizará muito o número de tokens.
Isso pode ser um grande corte, e os desenvolvedores precisarão pagar pela API.
De acordo com os preços no site oficial da OpenAI, processar uma página de documentos com GPT-4 pode atualmente custar 10 centavos, dependendo do comprimento e complexidade das entradas e saídas.
Outra atualização é a API Vision, que permite aos desenvolvedores criar software que pode analisar imagens.
Agarre os desenvolvedores, fazendo
A fim de atrair mais desenvolvedores, a OpenAI também fez muitos esforços.
No ano passado, Logan Kilpatrick, o primeiro engenheiro responsável por construir o relacionamento com desenvolvedores da OpenAI, foi contratado.
O ajuste fino da interface do usuário agora oferece suporte à criação de trabalhos de ponta a ponta na interface do usuário para iniciar trabalhos sem código.
De acordo com o PitchBook, as startups de IA receberam mais de US$ 20 bilhões em investimentos este ano.
Embora muitas delas dependam da tecnologia fornecida pela OpenAI, essas startups também estão trabalhando para diversificar os modelos que usam, como a adoção de soluções de código aberto como a Llama. E isso faz com que a OpenAI tenha que se diferenciar de concorrentes de bolso profundo como o Google.
De acordo com a Reuters, manter a satisfação dos desenvolvedores sempre foi um foco para a OpenAI.
No entanto, mesmo que o ChatGPT tenha sido extremamente bem-sucedido entre os consumidores, a OpenAI não teve o mesmo apoio de outras empresas ou desenvolvedores.
Por exemplo, o altamente antecipado sistema de plug-in ChatGPT, após a onda inicial de mania, o interesse de usuários e desenvolvedores despencou.
Sam Altman então admitiu que o plugin não era tão comercializável quanto o esperado.
Preço num relance
GPT-4