Створіть заміну ChatGPT, вартість впала на 95%! Хардкорне оновлення OpenAI вийде наступного місяця, а Vision API з'явиться

Джерело статті: Qubit

Редактор: Персик такий сонний

Щоб залучити більше розробників, OpenAI планує хвилю великих оновлень і зниження вартості створення додатків ChatGPT до 20 разів!

Розробники в усьому світі вже давно страждають від ціни на моделі OpenAI.

Агентство Reuters повідомило, що на першій конференції розробників 6 листопада OpenAI запустить щорічне оновлення блокбастера:

Додайте пам'ять до інструментів розробки, що значно знижує витрати на API на 95%.

Іншими словами, євангеліє, на яке так довго чекали розробники, нарешті настало, і в майбутньому додатки можна буде створювати за допомогою моделей GPT з меншою вартістю та більшою швидкістю.

Крім того, OpenAI також планує запустити нові інструменти розробки з можливостями «бачення».

Таким чином, розробники можуть створювати більш потужні програми, які «аналізують зображення» та «описують зображення».

Відкриття цих нових функцій в кінцевому підсумку вказує на спільну мету: створення агентів штучного інтелекту з підтримкою великих моделей.

Крок OpenAI відповідає баченню Сема Альтмана не тільки відкрити ринок серед користувачів, але й стати компанією, яка пропонує популярну платформу для розробників.

OpenAI збиває ціну

У листопаді минулого року був запущений ChatGPT, який залучив сотні мільйонів людей по всьому світу, встановивши віху в зростанні користувачів споживчих додатків.

Окрім веб-версії, ChatGPT також доступний для iOS, а також Android-версія застосунку.

Такий об'єктивний обсяг завантажень принесе певний прибуток OpenAI. Внутрішні керівники очікують 200 мільйонів доларів доходу в цьому році і 1 мільярда доларів в 24-му.

Видно, що ChatGPT зарекомендував себе в групі споживачів, але в колі розробників, що дозволяє розробникам будувати бізнес на основі технології OpenAI, стикається з багатьма проблемами.

За словами генерального директора Альтмана, зробити OpenAI невід'ємною частиною інших компаній, які створюють додатки, є однією зі стратегічних цілей компанії.

Він зустрівся з розробниками та охоче висловив бажання побудувати нову екосистему на основі моделей OpenAI.

В даний час можливості моделі GPT інтегровані в незліченну кількість додатків, таких як американська версія «Ele.me» DoorDash і помічник з написання Jasper.

Однак цього недостатньо.

У червні Сем Альтман розкрив дорожню карту свого майбутнього продукту в інтерв'ю генеральному директору платформи розробки штучного інтелекту Humanloop.

Одним зі згаданих пунктів є "Stateful API" - більшість токенів в даний час витрачаються даремно в передачі вище, і в майбутньому буде версія API, яка зможе запам'ятовувати історію розмов.

Це збігається з ідеєю додавання «сховища пам'яті». Додавання цієї функції може оптимізувати витрати з кількох причин:

• Нова функція кешування схожа на принцип ланцюжка пам'яті LangChain, який може перетворювати попередню історію розмов у вбудовані вектори для зберігання. Новий вміст сеансу потрібно обробляти лише в інкрементній розмітці без повторного введення всього контексту.

- Попередньо встановлені символи і функції також не потрібно вводити заново, досить виконати пошук подібності.

• Під час розрахунку моделі графіки CUDA повинні переглядати лише дельти, без необхідності повторного глобального перегляду на основі історичної історії чату.

Коротше кажучи, це значно оптимізує кількість токенів.

Запланований випуск так званих «запам'ятовуваних API» дозволяє моделям створювати додатки з меншими витратами, запам'ятовуючи історію розмов запитів.

Це може бути великим скороченням, і розробникам доведеться платити за API.

Згідно з цінами на офіційному сайті OpenAI, обробка сторінки документів за допомогою GPT-4 наразі може коштувати 10 центів, залежно від довжини та складності входів і виходів.

Ще одним оновленням є Vision API, який дозволяє розробникам створювати програмне забезпечення, яке може аналізувати зображення.

Це також знаменує собою важливий крок для OpenAI, щоб продовжувати розвивати мультимодальні можливості, і в майбутньому, безумовно, з'являться аудіо- та відеоможливості.

Хапайте розробників, роблячи

Для того, щоб залучити більше розробників, OpenAI також доклала чимало зусиль.

Минулого року був найнятий Логан Кілпатрік, перший інженер, відповідальний за побудову відносин з розробниками OpenAI.

Він часто оновлює інструменти та контент, які приносять користь розробникам.

Тонке налаштування інтерфейсу користувача тепер підтримує наскрізне створення завдань в інтерфейсі користувача для запуску завдань без коду.

Крім того, OpenAI збирається випустити версію 1.0 OpenAI Python SDK.

Публікація оновлень на інформаційній панелі використання API допомагає отримати більш чітке уявлення про те, які моделі стимулюють використання, і в цілому повинні бути більш надійними.

Крім того, видно, що OpenAI орієнтована на розробників і провела велику оптимізацію для різних робіт, таких як адаптація моделей та інтерфейс користувача.

Все це робиться для того, щоб залучити більше розробників, які платять за використання моделей OpenAI.

За даними PitchBook, цього року AI-стартапи отримали понад $20 млрд інвестицій.

Хоча багато з них покладаються на технологію, надану OpenAI, ці стартапи також працюють над диверсифікацією моделей, які вони використовують, наприклад, впроваджують рішення з відкритим вихідним кодом, такі як Llama. І це змушує OpenAI відрізнятися від конкурентів з глибокими кишенями, таких як Google.

Як повідомляє Reuters, підтримка задоволеності розробників завжди була в центрі уваги OpenAI.

Однак, незважаючи на те, що ChatGPT мав величезний успіх серед споживачів, OpenAI не мав такої ж підтримки, як інші компанії чи розробники.

Наприклад, довгоочікувана система плагінів ChatGPT, після початкової хвилі захоплення інтерес користувачів і розробників різко впав.

Тоді Сем Альтман визнав, що плагін не такий ринковий, як очікувалося.

Коротко про ціну

GPT-4

GPT-3.5 Turbo

Точне налаштування моделі

Ресурси: