Як навчити ШІ працювати на вас? Таємниця швидкого слова (_)

Джерело: Matrix Partners

Джерело зображення: створено інструментом Unbounded AI

Деякий час тому Чжан Ін поділився деякими судженнями щодо тенденцій штучного інтелекту та 7 пропозиціями щодо підприємництва ШІ на AI Conference of Chaos Academy. У першій пропозиції він згадав:

• «Кожен має приділяти увагу вивченню та застосуванню ШІ. Ефективна ітерація важливіша за будь-що інше. Ключовим моментом є навчитися писати підказкові слова. Дуже важливо вміти задавати запитання. Як краще взаємодіяти з ШІ це теж наука».*

Сьогодні ми трохи поговоримо про «Інженерію». На початку року в Інтернеті стали популярними різноманітні словники Midjourney, наприклад:

блискучі неонові вогні

високий кут огляду високий кут огляду

футуристичні поліровані поверхні

Класичний стиль, Вінтаж 18-19 століття

Укійо-е традиційне японське укійо

……

Донедавна великі боги знову жартували з QR-кодом, написавши підказкові слова стилю та елементів, вони можуть створювати унікальні «художні QR-коди AI»:

**Ми знаємо, що те, чи зможете ви використовувати велику мовну модель, значною мірою залежить від якості ваших підказок, але не думайте, що підказки прості, це не просто кілька додаткових слів або речень, коли ставите запитання. Слова так просто, причина, чому це називається інженерією (швидка інженерія), полягає в тому, що існує багато складних інженерних практик. **

У сьогоднішній статті ми розпочнемо з двох випадків, перший — це приклад звичайного тексту, а другий — це приклад, для реалізації якого потрібен код, щоб представити деякі важливі принципи та прийоми розробки:

• **Перший випадок — це «гаряча модель копірайтингу», яка дуже популярна в деяких спільнотах штучного інтелекту. В основному використовується звичайний текст для написання шаблонів і підказок правил для ШІ. **
• **Другий випадок є прикладом «робота для замовлення їжі» в курсі швидкої інженерії ChatGPT, з яким Ng Enda та OpenAI офіційно співпрацювали. **
• **Нарешті, давайте підсумуємо деякі основні принципи та техніки. **

Звичайно, немає суттєвої різниці між звичайним текстом слова підказки та написанням коду.Мета використання коду полягає в тому, щоб заощадити токени та зробити вихід більш стабільним і точним, тому що китайська все одно займатиме більше лексем.Коли вам потрібно виклик API у великому масштабі Іноді вартість різко зростає. Звичайні текстові підказки також можуть бути дуже складними. Наприклад, я бачив понад 600 рядків текстових підказок, і вони складаються з кількох груп модулів.

1Популярна модель копірайтингу (звичайний текст)

Давайте коротко познайомимо, що таке «Інжиніринг» (оперативний інжиніринг)? Зазвичай це означає перетворення запитань, які ви хочете задати, у вхідні дані в певному форматі та використання попередньо визначених шаблонів, правил і алгоритмів для обробки, щоб штучний інтелект міг краще зрозуміти завдання та надати відповідні відповіді. Дозволяйте штучному інтелекту максимально точно розуміти завдання, зменшуйте кількість непорозумінь і помилок, викликаних нечіткими мовними виразами, і дозволяйте йому точно й надійно виконувати конкретні завдання.

Переходимо до цього текстового прикладу. У багатьох сценаріях, які вимагають копірайтингу, як-от сторінки електронної комерції, копірайтинг Xiaohongshu, повідомлення на форумі тощо, якщо ви безпосередньо дозволите штучному інтелекту писати, ефект може бути недобрим,**але за допомогою цих «п’яти кроків» ви можете зробити Покращена якість друку та більш стабільні результати. **

Перший крок, «нагодуйте» ШІ копірайтинг, який, на вашу думку, є корисним, і щоб ШІ було зрозуміло, як навчитися цього копірайтингу, нам потрібно чітко сказати ШІ: «Далі я надішлю тобі дослідження копірайтингу , метою є створення моделі копірайтингу для популярних моделей. Після того, як ви закінчите навчання, вам потрібно лише відповісти: Я навчився. Копірайтинг виглядає наступним чином: "

**Другий крок, коли ШІ відповість «Навчилися», ми почнемо дозволяти ШІ моделювати стиль написання цього копірайтингу.

Третій крок, Загалом, штучний інтелект наразі погано підсумовує. Нам потрібно дозволити штучному інтелекту вчитися далі та змінювати свої власні відповіді. Наразі ми можемо дати штучному інтелекту структуру. Звичайно, цей крок також можна безпосередньо інтегрувати в попередній крок.

На четвертому кроці ми дозволяємо штучному інтелекту призначати ваги кожній частині.

Крок 5, ми називаємо цей шаблон, щоб штучний інтелект міг швидко викликати його.

Ось кілька прикладів застосування:

Для багатьох полів копірайтингу, які відносно відформатовані та не вимагають високої креативності, вміст штучного інтелекту перевищив базову лінію, а решту можна змінити вручну.

**Ви також можете продовжувати налаштовувати цю модель, наприклад, попросити штучний інтелект писати більш творчо або «годувати» штучний інтелект початковою копією, яка краще відповідає вашим потребам, і ви можете використовувати цю навчальну ідею та структуру, щоб навчати більш відповідну для вас модель статті. **

Нарешті, посилання на цю навчальну модель виглядає наступним чином, зацікавлені друзі можуть спробувати:

На основі цієї тренінгової ідеї користувачі мережі також розробили багато цікавих сценаріїв, ви можете спробувати:

2** Модель робота-замовника (реалізована кодом)**

Як за допомогою ChatGPT створити робота для замовлення їжі? Ми можемо зробити це за допомогою інженерії.

Цей приклад робота-замовника їжі взято з курсу DeepLearning.ai. Засновник DeepLearning.ai Ву Енда об’єднався з розробником OpenAI Ізою Фулфорд, щоб запустити курс інженерії для розробників. Ву Енда є зірковим професором у галузі штучного інтелекту. Він є запрошеним професором на факультеті комп’ютерних наук та електротехніки Стенфордського університету. Колись він був директором Стенфордської лабораторії штучного інтелекту.

ChatGPT — це діалоговий інтерфейс чату, за допомогою якого ми можемо створити чат-робота з користувальницькими функціями, такими як агент обслуговування клієнтів AI для ресторану або замовник AI та інші ролі.

Але оскільки це комерційний сценарій, нам потрібні точні та стабільні відповіді від ChatGPT. Наразі доцільніше використовувати комп’ютерну мову, ніж звичайний текст, тому нам потрібно спочатку розгорнути пакет OpenAI Python.

Для цієї спеціальної моделі чат-бота ми, по суті, навчаємо бота, який приймає серію повідомлень як вхідні дані та виводить повідомлення, згенеровані моделлю. У цьому прикладі використовується GPT-3.5, і 3.5 може бути більш придатним для комерційного використання на цьому етапі, оскільки GPT-4 занадто дорогий.

**Сценарій застосування цього робота-замовника — піцерія. Реалізовані функції: спочатку вітати клієнтів, потім збирати замовлення та запитувати, чи потрібно їм забрати чи доставити. **У разі доставки бот-замовник може запитати адресу. Нарешті бот-замовник збирає платіж.

Під час фактичної розмови робот-замовник генеруватиме відповідь відповідно до введених користувачем даних і інструкцій системи:

Користувач каже: «Привіт, я хотів би замовити піцу»

Бот для замовлення відповість: «Чудово, яку піцу ви б хотіли замовити? У нас є піца з пепероні, сиром і баклажанами, які ціни»

Протягом усієї розмови робот-замовник генеруватиме відповідь на основі введення користувача та вказівок системи, щоб зробити розмову більш природною та гладкою, і в той же час уникнути вставлення в розмову очевидної оперативної інформації.

По-перше, ми визначаємо «допоміжну функцію», яка збирає повідомлення користувача, щоб позбавити нас від введення їх вручну. Ця функція збиратиме підказки з інтерфейсу користувача та додаватиме їх до списку під назвою контекст, який потім буде використовуватися для виклику моделі кожного разу, включаючи системну інформацію та меню.

Відгуки ChatGPT і відгуки користувачів будуть додані до контексту, і цей контекст ставатиме все довшим і довшим. Таким чином, ChatGPT має всю необхідну інформацію, щоб вирішити, що робити далі. Ось підказки, використані в контексті: «Ви бот для замовлення, автоматизований сервіс, який збирає замовлення з піцерії. Ви спочатку вітаєте клієнта, потім отримуєте замовлення та запитуєте, чи хочете ви забрати чи доставити». (Детальніше див. зображення нижче)

Якби це дійсно спрацювало, це було б так: користувач каже «Привіт, я хочу замовити піцу». Потім бот-замовник каже: «Добре, яку піцу ти хочеш замовити? У нас є піца з пепероні, сиром і баклажанами, скільки вони коштують»

Оскільки слово підказки вже містить ціну, вона буде безпосередньо вказана тут. Користувач може відповісти: «Мені подобається середня піца з баклажанами». Тож користувач і робот-замовник можуть продовжувати цю розмову вічно, зокрема, чи хочуть вони доставити, чи потрібні їм додаткові інгредієнти, а також ще раз перевірити, чи потрібні їм інші речі (наприклад, вода? чи чіпси?)...

Нарешті, ми просимо бота для замовлення створити підсумок на основі бесіди, який можна надіслати в систему замовлення:

В останньому вихідному посиланні виводяться: категорії продуктів (піца, інгредієнти, напої, закуски...), тип, розмір, ціна, чи потрібна доставка та адреса. Оскільки ми хочемо, щоб результат був абсолютно стабільним і передбачуваним без будь-якої творчості, ми встановимо температуру на 0. Зрештою, такі результати можна безпосередньо передати в систему замовлення.

Оскільки ця стаття не насичена кодами, я вважаю, що ви не бажаєте бачити щільні коди на своєму мобільному телефоні, тому ми викладаємо тут лише основні моменти. Якщо ви хочете дізнатися більше, ви можете переглянути це детальне навчальне відео:

3 Кілька основних принципів і прийомів

Нарешті, давайте підсумуємо два ключові принципи та поточні обмеження великих мовних моделей. Вам потрібно знати, де поточна нижня межа можливостей великої мовної моделі, що є більш корисним для пошуку конкретних сценаріїв застосування.

**Це два принципи: напишіть чіткі та конкретні інструкції та дайте моделі достатньо часу для роздумів. **

**Принцип 1: Напишіть чіткі та конкретні інструкції. **

Цей принцип підкреслює, що при використанні мовних моделей, таких як ChatGPT, необхідно давати чіткі та конкретні інструкції. Ясність не означає короткості. Занадто короткі підказкові слова часто змушують модель впадати в здогади. За цим принципом існує 4 конкретні стратегії:

**1) Використовуйте роздільники, щоб чітко розмежувати різні частини введення. **

Роздільниками можуть бути зворотні галочки, лапки тощо. Основна ідея полягає в тому, щоб чітко визначити різні частини вхідних даних, що допомагає моделі зрозуміти й обробити вихідні дані. Розділювач має чітко повідомити моделі, що це незалежна частина, яка може ефективно уникнути «введення підказки». Так зване швидке впровадження стосується деяких суперечливих інструкцій, які можуть бути згенеровані помилково, коли деякі користувачі додають новий вхід, що призводить до неправильних результатів.

**2) Запит структурованого виводу: щоб полегшити розбір виводу моделі, можна запросити структурований вивід. **

У слові підказки ви можете вказати: Згенерувати три вигадані назви книг разом із їхніми авторами та жанрами в такому форматі: ідентифікатор книги, назва, автор і жанр.

**3) Попросіть модель перевірити, чи виконується умова. **

Якщо в задачі є припущення, і ці умови не обов’язково виконуються, можна сказати моделі спочатку перевірити ці припущення, вказати, якщо вони не виконуються, і зупинити пряму передачу завдання, щоб уникнути неочікуваних неправильних результатів.

Як у наступному прикладі: ми скопіюємо абзац, який описує, як заварити чай, а потім скопіюємо підказку, у якій сказано, що якщо текст містить серію вказівок, перепишіть ці вказівки в такому форматі, а потім крок -покрокова інструкція. Якщо текст не містить ряду вказівок, просто напишіть «Кроків не передбачено».

**4) Міні-пакетні підказки: надайте успішні приклади виконання завдань, перш ніж попросити модель виконати фактичне завдання. **

Ця стратегія проста, але важлива, тобто ми можемо включити правильний приклад у слово підказки. Наприклад, ми просимо модель відповідати послідовним тоном, вхідне завдання «відповісти на запитання послідовним стилем», а потім наводимо приклад розмови між дитиною та дідусем, дитина каже: «Навчи мене, що терпіння є», дідусь Відповідь за аналогією.

Тепер ми просимо модель відповідати послідовним тоном, коли наступне запитання: «навчи мене, що таке стійкість». Оскільки модель уже має ці кілька прикладів, вона відповість на наступне завдання подібним тоном, вона відповість: «Стійкість подібна до дерева, яке може бути зігнуте вітром, але ніколи не зламається».

**Принцип 2: дайте моделі достатньо часу на роздуми. **

Якщо модель допускає помилку в міркуванні, тому що вона прагне зробити неправильний висновок, вона повинна спробувати реконструювати підказкові слова.Основна ідея полягає в тому, щоб вимагати від моделі виконання серії пов’язаних міркувань перед наданням остаточної відповіді. За цим принципом існує 2 стратегії:

1) Вкажіть кроки для виконання завдання:

Чітке визначення кроків, необхідних для виконання завдання, може допомогти моделі краще зрозуміти завдання та отримати точніші результати.

2) Доручіть моделі (перш ніж поспішати з висновками) сформулювати власне рішення:

Явна вказівка моделі міркувати про рішення самостійно, перш ніж дійти висновку, може допомогти моделі виконати завдання більш точно.

**Додаткове обговорення: як переглянути обмеження моделі? **

Зараз найбільшою проблемою комерціалізації великих мовних моделей є «ілюзія». Тому що в процесі навчання велика модель отримує великий обсяг знань, але вона не досконало запам’ятовує інформацію, яку побачила, і не зрозуміло, де проходить межа знань. Це означає, що велика модель може намагатися відповісти на всі запитання, іноді вигадуючи речі, які здаються правдоподібними, але такими не є.

Стратегія зменшення галюцинацій полягає в тому, щоб спочатку попросити велику мовну модель знайти всі релевантні частини тексту, потім попросити її використати ці цитати, щоб відповісти на запитання, і відстежити відповідь до вихідного документа. Ця стратегія може зменшити виникнення галюцинацій.

Сьогоднішня стаття є більш практичною. Ми пояснюємо деякі поглиблені застосування інженерії (оперативне проектування) у двох випадках (один із простим текстом, а інший — через програмування).

Великі мовні моделі, такі як GPT-3.5 і GPT-4, розуміють усе, але саме тому, що вони занадто широкі, якщо ви не дасте підказки, відповідь, яку ви часто отримаєте, буде колесом автомобіля.

Важливість (підказка) у цей час є самоочевидною, і це не просто слово чи просте речення, якщо ви хочете досягти більш складних функцій, вам також потрібні більш складні слова підказки.

Він також вимагає від кожного обмірковувати та придумувати більш нові або більш відповідні геймплеї. Його «ексклюзивність» також дуже сильна. Наприклад, автор попереднього відзначеного премією «Space Opera House» стверджував, що витратив понад 80 годин і понад 900 ітерацій, щоб створити цю роботу, і відмовився поділитися тим, які підказки використовував Міджорні досі.

** Звичайно, сам по собі це може бути лише поетапний попит. Сем Альтман одного разу сказав: «Через п’ять років, можливо, більше не потрібно буде пропонувати вакансію інженера, оскільки ШІ матиме здатність навчатися сам по собі. Але незаперечним є те, що цей «поетапний попит» є важливою зброєю, яка справді допомагає штучному інтелекту проникнути в усі аспекти бізнесу. **

Зараз нам не потрібно починати з нуля, є багато хороших спільнот вдома та за кордоном, усі обмінюються досвідом щодо використання слів-підказок і навіть перераховують популярні зараз слова-підказки, які ми перелічимо в додатку на кінець статті.

** З точки зору підприємництва/інвестицій, усі зараз обговорюють можливості на прикладному рівні. Я часто відвідую ці популярні веб-сайти з підказками, щоб побачити, і, можливо, я зможу знайти деякі інновації в сценаріях застосування з тих нещодавно випущених популярних підкажи слова натхнення. Скільки б ви не бачили, краще спробувати. **

Додаток: деякі сайти для обговорення оперативних слів

1. Спільнота AI:

(Популярний веб-сайт підказок за кордоном, який можна сортувати за популярністю та охоплює повний спектр сценаріїв.)

2、 Написання на Reddit (r/Написи):

(Субреддіт Writings на Reddit — це дуже активна спільнота, де користувачі публікують і відповідають на різні підказки щодо написання.)

3. Перелічив 100 найкращих слів-підказок

(100 найкращих слів-підказок ChatGPT для покращення робочого процесу.)

4. Китайський сайт підказок:

(Його можна відсортувати за популярністю, і сценарії, які розглядаються, дуже повні, від написання, програмування до фінансів, медичної допомоги тощо.)

5. Ще один китайський веб-сайт із підказками: Майстер підказок

(Копірайтинг Xiaohongshu займає найвищу позицію, і він має більш інтуїтивно зрозуміле відображення підказок.)