Якщо ці три проблеми не будуть вирішені, комерційний десант великих моделей - порожній звук!

Джерело статті: Data Ape

Автор: Дощ з диму і дощу

Джерело зображення: Створено Unbounded AI

В даний час великі моделі стали гарячою темою в діловому світі завдяки передовим дослідженням в академічних колах. В даний час вітчизняні технологічні гіганти і стартапи, що розвиваються, активно вивчають комерційне застосування великої моделі, намагаючись використовувати її для впровадження інновацій і зростання в існуючий бізнес.

Цей «стрімкий марш» проявляється у двох аспектах: по-перше, велика модель глибоко інтегрується з традиційними основними бізнес-системами, такими як ERP, CRM, BI, фінанси, маркетинг, експлуатація та обслуговування клієнтів, щоб зробити її більш інтелектуальною та автоматизованою; По-друге, великі моделі почали широко використовуватися в багатьох галузях, таких як фінанси, виробництво, роздрібна торгівля, енергетика та розваги, сприяючи інноваціям та трансформації галузі.

За результатами випробування мережевого режиму ChatGPT, Microsoft Bing, Baidu Wenxin Yiyan, Taobao Wenwen та інших продуктів, автор виявив, що все ще існують очевидні проблеми в комерційному використанні великих моделей.

Зокрема, для того, щоб досягти комерційної посадки, необхідно вирішити ці три проблеми:

Док-станція системи

У міру того, як великі моделі поступово інтегруються в повсякденні бізнес-операції, їх функції вийшли за рамки простої обробки даних і обчислень. Цей новий тип інтелектуальної моделі повинен мати можливість взаємодіяти з широким спектром бізнес-систем у режимі реального часу та реагувати на різноманітні потреби бізнесу. Теоретично це ключ до справжньої цінності великих моделей, але на практиці це також серйозна технічна проблема.

Ми повинні визнати, що кожна бізнес-система має своє унікальне історичне підґрунтя та технічну архітектуру, що надає їй унікальної ідентичності. Вони існують не випадково, а проектуються та розробляються з урахуванням конкретних контекстів, потреб бізнесу та технологічних тенденцій.

Наприклад, рання ERP-система, можливо, народилася в епоху обмежених обчислювальних ресурсів і незрілих мереж, а її концепція дизайну, структура даних і функціональні характеристики були тісно пов'язані з технічним і бізнес-середовищем того часу. Вони можуть базуватися на традиційних реляційних базах даних і сервісно-орієнтованих архітектурах, а не на сучасних мікросервісах або контейнерних технологіях.

На противагу цьому, сучасні платформи автоматизації маркетингу виросли в епоху хмарних обчислень і великих даних, і вони, природно, мають потужні можливості обробки даних, динамічну масштабованість і багаті інтерфейси API.

Ця різниця в технологіях принципово визначає напрямок стратегії інтеграції великої моделі з цими системами. Намагатися об'єднати всі системи під єдиним стандартом, безсумнівно, недоцільно.

Тому стратегія інтеграції з великою моделлю повинна бути різноманітною, і в ній потрібно враховувати особливості і потреби кожної системи. Зокрема, для систем, заснованих на застарілих технологіях, може знадобитися введення деяких «адаптерів» або «середніх шарів» для трансформації даних і бізнес-логіки, щоб вони могли плавно взаємодіяти з великими моделями. Для систем, які вже впровадили сучасні технології, інтеграція може бути більш зрозумілою та простою, але все одно необхідно забезпечити узгодженість та цілісність даних.

Крім того, в широкому застосуванні інформаційних технологій інтерфейси грають роль «мостів», що відповідають за передачу і передачу інформації між різними системами. Стандартизація інтерфейсів давно переслідується в IT-сфері, але в зв'язку з розвитком технологій і накопиченням історії різноманіття інтерфейсів стало неминучим.

Таке різноманіття інтерфейсів створює серйозну проблему для інтеграції великих моделей, і за кожним стандартом інтерфейсу або протоколом стоять специфічні структури даних, методи виклику та механізми безпеки. Для того, щоб великі моделі могли безперешкодно взаємодіяти з цими системами, для кожного інтерфейсу розробляється адаптер. Це означає, що крім обслуговування самої великої моделі, ці адаптери також потрібно часто оновлювати та оптимізувати, щоб впоратися з ітерацією бізнес-систем та змінами інтерфейсів.

Як вирішити ці проблеми? Управління API та мікросервісна архітектура є хорошим шляхом розвитку, застосовуючи інструменти управління API та мікросервісну архітектуру, підприємства можуть модульно взаємодіяти між великими моделями та іншими системами, роблячи їх більш гнучкими та масштабованими.

Основна ідея мікросервісної архітектури полягає в тому, щоб розкласти велику, складну систему на безліч незалежних, невеликих сервісів, які працюють незалежно і взаємодіють через чітко визначені API. Ця архітектура приносить значні переваги інтеграції великих моделей, роблячи взаємодію між окремими частинами та великою моделлю більш гнучкою за рахунок поділу функціональності всієї системи на кілька мікросервісів.

Кожен мікросервіс можна масштабувати, розгортати та підтримувати незалежно, не впливаючи на інші сервіси. У той же час інструменти управління API надають розробникам єдину платформу для взаємодії з кожним мікросервісом і великою моделлю.

Доступ до даних

У сучасну епоху, керовану даними, великі моделі схожі на гігантське інтелектуальне «серце», яке обробляє, аналізує та надає інтелектуальні рекомендації та рішення для різних бізнес-систем. Ці бізнес-системи, від CRM до ERP, фінансів і маркетингу, схожі на кровоносні судини та органи, переплетені з великою моделлю та доповнюють одна одну. А кров, яка тече через цю систему, є даними.

В ідеалі кожна транзакція, кожна дія користувача, кожен відгук клієнта генерують дані. Ці дані передаються з бізнес-системи у велику модель, аналізуються та обробляються, а потім повертаються у відповідну бізнес-систему для надання користувачам більш точних послуг або рішень.

Розглянемо приклад.

Припустимо, є міс Ван, яка є лояльним користувачем відомої торгової онлайн-платформи. Щоразу, коли вона переглядає товар, додає товар у кошик або робить покупку, інформаційна панель мовчки записує ці дані про поведінку. Коли дані про поведінку пані Ван передаються на велику модель у режимі реального часу, модель негайно проведе глибокий аналіз у поєднанні з її минулою історією покупок та історією переглядів. Велика модель швидко зрозуміла, що міс Ван останнім часом дуже цікавиться літнім жіночим одягом і, можливо, їй знадобляться деякі аксесуари в тон її щойно купленої сукні.

Коли вона використовує додаток великої моделі цієї платформи електронної комерції, вона може взаємодіяти з додатком у режимі реального часу та просити велику модель порекомендувати деякі продукти. У цей час велика модель може порекомендувати ряд взуття, сумок і навіть інших літніх аксесуарів в тон літніх суконь.

Скажімо, вона натискає на одне з рекомендованих взуття, переглядає деталі і, нарешті, вирішує їх купити. На цей раз покупка також фіксується, а дані подаються на велику модель. У цьому процесі ми бачимо важливість безперебійного потоку даних між великою моделлю та бізнес-системою для надання точних послуг та рішень.

Однак вищесказане є лише ідеальною ситуацією, а в реальності можуть виникнути найрізноманітніші проблеми. Перш за все, це складна проблема зв'язку даних між різними бізнес-системами і великими моделями.

Візьмемо для прикладу Taobao Ask, тепер Taobao Ask не підключений до системи Taobao, Taobao Ask не знає переваг користувача, це як інформаційний острів, вбудований в Taobao, і він органічно не інтегрований у всю систему даних Taobao. **

Крім того, навіть якщо дані пов'язані між великою моделлю та бізнес-системою, через різну історичну історію, технічну архітектуру та стандарти даних кожної бізнес-системи, цілком імовірно, що в процесі циркуляції даних виникнуть «блокування» або «точки витоку». Це може привести не тільки до втрати даних, але і до спотворення результатів аналізу для великих моделей.

Візьмемо для прикладу платформи електронної комерції, коли користувачі переглядають товари та роблять покупки, ці поведінкові дані будуть передані великій моделі для аналізу, щоб рекомендувати продукти, які більше підходять користувачам. Однак, якщо дані втрачаються під час передавання або не збігаються з форматом даних інших систем, велика модель може бути не в змозі точно рекомендувати продукти, що може вплинути на взаємодію з користувачем.

Потік даних між великими моделями і різними бізнес-системами особливо важливий не тільки через збільшення обсягу даних, але і тому, що змінюється роль даних в принесенні цінності підприємству. Однак нелегко досягти плавного, точного потоку даних між великою моделлю та різними системами.

Ми повинні розуміти, що потік даних між великою моделлю та бізнес-системою – це не проста міграція чи передача даних, це складний, двосторонній та безперервний процес. У цьому процесі кожна бізнес-система може мати часті взаємодії з великою моделлю, а сама велика модель постійно оновлюється, навчається та розвивається.

За цим потоком даних стоять незліченні технічні та бізнес-проблеми, такі як той факт, що дані у великій моделі можуть не відповідати даним у бізнес-системі в певний момент часу через різну частоту та час оновлень із різних систем. Більше того, різні бізнес-системи можуть приймати різні технічні архітектури, формати даних і стандарти інтерфейсу, що призводить до частих трансформацій і коригувань потоку даних.

Питання безпеки та конфіденційності даних не можна ігнорувати, дані можуть піддаватися різним загрозам у процесі передачі, зберігання та обробки, як забезпечити цілісність, конфіденційність та невідмову від даних стало основною проблемою, з якою стикаються підприємства. Особливо в міжрегіональних і міжмережевих середовищах передача даних також може зазнавати затримок, що є фатальним для бізнес-систем, які потребують реагування в режимі реального часу.

Конвергенція бізнесу

Великі моделі поступово проникли в різні галузі та сфери, ставши важливим поштовхом для корпоративного інтелекту. Однак зробити так, щоб технології дійсно приносили користь бізнесу, - це не тільки питання впровадження технологій, але, що більш важливо, тісної інтеграції технологій і бізнесу. Щоб досягти цього, велика модель повинна заглиблюватися в деталі бізнесу, розуміти бізнес-логіку та бути повністю інтегрованою у всю бізнес-систему. **

Уявіть собі велику компанію електронної комерції, яка хоче оптимізувати свою систему рекомендацій щодо продуктів за допомогою великої моделі. Для цього моделі недостатньо розпізнати історію покупок користувача, їй також потрібно розуміти купівельні звички користувача, його інтереси, вподобання, історію пошуку та багато інших деталей. Крім того, модель повинна вміти розуміти бізнес-стратегії, такі як сезонні, фестивалі та рекламні акції, щоб гарантувати, що створений контент є справді цінним.

У зв'язку з цим виникає ключове питання: як зробити так, щоб велика модель розуміла та враховувала ці бізнес-деталі? Зокрема, можна відштовхуватися від наступних аспектів:

**1. Передача бізнес-знань порушує обмеження даних. **

Дані, безсумнівно, є основним входом у велику модель, але для досягнення справжнього розуміння бізнесу недостатньо покладатися на дані. Значна частина бізнес-знань є неявними та неструктурованими, що ускладнює їх передачу за допомогою традиційних засобів даних. Наприклад, основні цінності компанії, її довгострокові відносини з клієнтами та незначні зміни в галузі можуть не відображатися безпосередньо в даних. Такі знання, якщо їх ігнорувати, можуть змусити модель приймати рішення, що відхиляються від реального бізнес-сценарію.

Тому тісна співпраця з бізнес-одиницями має важливе значення. Бізнес-підрозділи мають великий досвід і глибоке розуміння бізнесу, і вони можуть надати деталі, які не можуть охопити дані. Йдеться не лише про знання всередині компанії, а й про те, що відбувається з партнерами, конкурентами та навіть галуззю в цілому.

Одним із підходів, який варто розглянути, є створення спеціальної команди бізнес-знань, яка може складатися з бізнес-експертів, фахівців з обробки даних та інженерів-моделей, які працюють разом, щоб гарантувати, що великі моделі отримують всебічну та поглиблену бізнес-підготовку.

**2. Адаптація під складну бізнес-логіку та індивідуальну розробку великих моделей. **

Різноманіття галузей призвело до складності бізнес-логіки, і велика модель для фінансової індустрії навряд чи буде безпосередньо застосовна до галузей роздрібної торгівлі або охорони здоров'я, оскільки ці галузі мають свої унікальні бізнес-правила та логіку, що вимагає високого ступеня кастомізації при проектуванні та розробці великої моделі.

Архітектуру, параметри і навіть алгоритми великої моделі може знадобитися підлаштувати під конкретні сервіси. Наприклад, деякі галузі можуть приділяти більше уваги продуктивності в реальному часі, тоді як інші можуть приділяти більше уваги довгостроковим стратегіям, що може призвести до того, що моделям доведеться йти на компроміси між швидкістю обчислень і глибоким аналізом.

  1. Адаптація до змін у бізнесі, гнучкість та можливість ітерацій великих моделей. **

Бізнес не статичний, він змінюється з часом, ринками та технологіями. Коли бізнес-логіка та правила змінюються, велику модель потрібно відповідним чином коригувати.

Це вимагає не тільки гнучкості в дизайні моделі, але й здатності до швидкої ітерації та оптимізації на більш пізньому етапі. Безперервне навчання моделі, зворотний зв'язок з бізнесом у режимі реального часу та можливість онлайн-навчання моделі є ключовими для забезпечення синхронізації великої моделі з бізнесом.

У майбутньому ми передбачаємо, що велика модель буде надалі інтегрована в бізнес, перестаючи не просто інструментом для обробки та аналізу даних, а стане основним драйвером всього бізнес-процесу. Йдеться не лише про технологічний прогрес, а й про повну трансформацію бізнес-моделей, організаційних структур та способів роботи.

Однак така трансформація не відбувається за один день і вимагає об'єднання зусиль і співпраці бізнес-лідерів, бізнес-команд і технічних команд. Потрібне постійне навчання, експерименти та оптимізація, щоб гарантувати, що великі моделі дійсно можуть принести користь бізнесу. У процесі можуть виникати виклики та труднощі, але саме цей досвід створить цінні знання та можливості для бізнесу, який допоможе йому виділитися серед конкурентів.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити