Создайте замену ChatGPT, стоимость упала на 95%! Хардкорное обновление OpenAI выйдет в следующем месяце, а на подходе Vision API

Источник статьи: Qubit

Редактор: Пич Такой Сонный

Чтобы привлечь больше разработчиков, OpenAI планирует волну крупных обновлений и снижает стоимость создания приложений ChatGPT до 20 раз!

Разработчики по всему миру уже давно страдают от цены моделей OpenAI.

Агентство Reuters сообщило, что на первой конференции разработчиков 6 ноября OpenAI выпустит ежегодное обновление-блокбастер:

Добавьте хранилище памяти в инструменты разработки, что значительно снижает затраты на API на 95%.

Другими словами, евангелие, которого так долго ждали разработчики, наконец-то пришло, и в будущем приложения можно будет создавать с помощью GPT-моделей с меньшими затратами и более высокой скоростью.

Кроме того, OpenAI также планирует запустить новые инструменты разработки с возможностями «зрения».

Таким образом, разработчики могут создавать более мощные приложения, которые «анализируют изображения» и «описывают изображения».

Открытие этих новых функций в конечном итоге указывает на общую цель: создание агентов ИИ, поддерживаемых большими моделями.

Этот шаг OpenAI следует видению Сэма Альтмана не только открыть рынок среди пользователей, но и стать компанией, предлагающей популярную платформу для разработчиков.

OpenAI сбивает цену

В ноябре прошлого года был запущен ChatGPT, который привлек сотни миллионов людей по всему миру, установив веху в росте пользователей потребительских приложений.

Помимо веб-версии, ChatGPT также доступен для iOS, а также версия приложения для Android.

Такой объективный объем загрузок принесет OpenAI некоторую прибыль. Внутренние руководители ожидают $200 млн выручки в этом году и $1 млрд в 2024 году.

Видно, что ChatGPT зарекомендовал себя в потребительской группе, но в кругу разработчиков, позволяя разработчикам строить бизнес на основе технологии OpenAI, сталкивается со многими проблемами.

По словам генерального директора Альтмана, сделать OpenAI неотъемлемой частью других компаний, создающих приложения, является одной из стратегических целей компании.

Он встретился с разработчиками и охотно выразил желание построить новую экосистему на основе моделей OpenAI.

В настоящее время возможности модели GPT были интегрированы в бесчисленное количество приложений, таких как американская версия «Ele.me» DoorDash и помощник по написанию Jasper.

Однако этого недостаточно.

В июне Сэм Альтман раскрыл свою дорожную карту будущего продукта в интервью генеральному директору платформы для разработки искусственного интеллекта Humanloop.

Одним из упомянутых моментов является "Stateful API" - большая часть токенов в настоящее время тратится впустую при передаче выше, и в будущем будет версия API, которая сможет запоминать историю разговоров.

Это совпадает с идеей добавления «хранилища памяти». Добавление этой функции может оптимизировать расходы по нескольким причинам:

  • Новая функция кэширования похожа на принцип Memory Chain в LangChain, который может преобразовывать историю предыдущих разговоров во встроенные векторы для хранения. Новое содержимое сеанса должно обрабатываться только в инкрементной разметке без необходимости повторного ввода всего контекста.

- Предустановленные символы и функции также не нужно вводить повторно, достаточно выполнить поиск схожести.

  • Во время расчета модели графики CUDA должны просматривать только дельты, без необходимости повторного глобального просмотра на основе истории чата.

Одним словом, это значительно оптимизирует количество токенов.

Планируемый выпуск так называемых «запоминаемых API» позволяет моделям создавать приложения с меньшими затратами, запоминая историю разговоров запросов.

Это может быть большим сокращением, и разработчикам придется платить за API.

Согласно ценам на официальном сайте OpenAI, обработка страницы документов с помощью GPT-4 в настоящее время может стоить 10 центов, в зависимости от длины и сложности входных и выходных данных.

Еще одно обновление — Vision API, которое позволяет разработчикам создавать программное обеспечение, способное анализировать изображения.

Это также знаменует собой важный шаг для OpenAI в дальнейшем развитии мультимодальных возможностей, и в будущем определенно появятся возможности аудио и видео.

Хватайте разработчиков, в действии

Для того, чтобы привлечь больше разработчиков, OpenAI также приложила немало усилий.

В прошлом году был нанят Логан Килпатрик (Logan Kilpatrick), первый инженер, ответственный за выстраивание отношений с разработчиками OpenAI.

Он часто обновляет инструменты и контент, которые приносят пользу разработчикам.

Тонкая настройка пользовательского интерфейса теперь поддерживает сквозное создание заданий в пользовательском интерфейсе для запуска заданий без кода.

Кроме того, OpenAI собирается выпустить версию 1.0 OpenAI Python SDK.

Публикация обновлений на панели мониторинга использования API помогает получить более четкое представление о том, какие модели стимулируют использование и должны быть более надежными в целом.

Кроме того, видно, что OpenAI ориентирован на разработчиков и проделал большую оптимизацию для различных работ, таких как адаптация модели и пользовательский интерфейс.

Все это делается для того, чтобы привлечь больше разработчиков, которые будут платить за использование моделей OpenAI.

По данным PitchBook, в этом году AI-стартапы получили более $20 млрд инвестиций.

В то время как многие из них полагаются на технологию, предоставляемую OpenAI, эти стартапы также работают над диверсификацией моделей, которые они используют, например, внедряя решения с открытым исходным кодом, такие как Llama. И это заставляет OpenAI дифференцировать себя от конкурентов с глубокими карманами, таких как Google.

По данным Reuters, поддержание удовлетворенности разработчиков всегда было в центре внимания OpenAI.

Однако, несмотря на то, что ChatGPT был чрезвычайно успешен среди потребителей, OpenAI не получил такой же поддержки от других компаний или разработчиков.

Например, долгожданная система плагинов ChatGPT, после первоначальной волны повального увлечения, резко упала, интерес пользователей и разработчиков.

Затем Сэм Альтман признал, что плагин оказался не таким востребованным, как ожидалось.

Цена с первого взгляда

ГПТ-4

GPT-3.5 Турбо

Тонкая настройка модели

Ресурсы:

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить