Інтелектуальна трансформація галузі увійшла в глибоководну область, і точки попиту підприємств на можливості штучного інтелекту змінюються.
Все більше і більше великих підприємств виходять за рамки одного інтелектуального додатку. У таких галузях, як електроенергетика та фінанси, великі підприємства зосереджуються на всьому процесі виробництва, застосування та управління можливостями штучного інтелекту та висувають вимоги до навчальних платформ та інструментів продуктивності платформ виробників, щоб вирішити низку больових точок, таких як дефіцит талантів, дефіцит даних, труднощі в управлінні та низький рівень повторного використання ресурсів.
Після приходу буму великих моделей фокус платформної конкуренції змістився на розробку та застосування великих моделей, а виробники активно поєднують попередні рішення AI-платформи з великими моделями. У конкурсі платформ були виділені переваги деяких компаній. Міжнародне аналітичне агентство Forrester нещодавно опублікувало звіт, який показує, що в конкуренції китайських платформ штучного інтелекту/машинного навчання Baidu Intelligent Cloud показала хороші результати, а платформи штучного інтелекту, які брали участь у відборі, отримали найвищі бали в 6 категоріях, таких як дані, міркування та застосування15 підкатегорій, посівши місце в квадранті лідерів**.
Платформа штучного інтелекту допомагає підприємствам швидко створювати моделі та програми штучного інтелекту, які відповідають потребам бізнесу, а також ефективно контролювати та оптимізувати продуктивність моделей.
Ситуація з побудовою 100 моделей на 100 сцен відходить у минуле.
01 Глибоке використання штучного інтелекту, проблеми старої зброї
**Індустрія вступає в стадію поглибленого застосування штучного інтелекту, і штучний інтелект більше не є недосяжним. Однак все більше підприємств виявляють, що з поглибленням додатків старші користувачі в області корпоративної розвідки стикаються з новими проблемами.
Візьмемо для прикладу енергетичну галузь, великі енергетичні компанії використовували моделі штучного інтелекту для кількох сценаріїв, таких як перевірка ланцюга. Як правило, відповідні потреби таких підприємств здебільшого закуповуються самостійно різними відділами чи філіями. Зі збільшенням кількості застосувань штучного інтелекту зростає і кількість моделей. Управління великою кількістю моделей і забезпечення їх стабільної та ефективної роботи стає складним завданням.
Подібні проблеми виникають на багатьох великих підприємствах. Ветеран розповів Digital Intelligence Frontline, що він особисто бачив, що відділ А на підприємстві ставить 5 людей для виконання алгоритму А, а відділ Б також ставить кількох людей у команду Б для виконання алгоритмів, що ускладнює проведення уніфікованого моніторингу, оптимізації, оновлення та обслуговування на рівні компанії, а загальний рівень повторного використання ресурсів ШІ на підприємстві дуже низький.
Деякі підприємства чи установи вже застосували технологію штучного інтелекту для схвалення видачі кредитних карток та виявлення шахрайства, щоб досягти контролю ризиків штучного інтелекту та точного маркетингу. Але акцент фінансової індустрії на безпеці та відповідності вимогам поширюється і на застосування штучного інтелекту. Наприклад, технічна команда в банку надає великого значення факторам комплаєнсу, а при створенні нової моделі, хто відповідає за делегування та затвердження будівництва, хто займається затвердженням зчитування даних, а також запис даних, створення моделі, навчання, посадка та запуск також гарантуються шарами процесів. Очевидно, що такий попит не є традиційною інтелектуальною конструкцією додатків.
Високопоставлений фахівець з галузевих рішень з постачальника хмарних послуг розповів Digital Intelligence Frontier, що деякі великі центральні державні підприємства явно сподіваються побудувати інтелектуальний хаб підприємства та розвивати власні можливості штучного інтелекту, щоб цифровий відділ підприємства міг розробляти власні алгоритми для нових сценаріїв і створювати нові програми.
Така тенденція спостерігається і в галузі. Цзінь Вей, старший архітектор інтелектуальної хмарної платформи штучного інтелекту Baidu, сказав передовій цифрового інтелекту, що це відображає те, що програми штучного інтелекту рухаються до глибоководної області, а систематична трансформація підприємств стає все більш помітною. Підприємства повинні мати не тільки бачення та планування цілей, але й мати сильний механізм координації та нагляду за просуванням, а також мати повні інструменти для забезпечення безперебійної реалізації. Платформа штучного інтелекту є інструментом продуктивності для інтелектуальної трансформації підприємств.
Індустрія усвідомила важливість цього продукту платформи. Міжнародна аналітична фірма Forrester нещодавно опублікувала звіт «The Forrester WaveTM: оцінка постачальників платформ AI/ML на китайському ринку, Q42023», в якому зазначається, що особи, які приймають рішення на підприємствах Китаю, приділяють першочергову увагу впровадженню технології штучного інтелекту для підвищення продуктивності та бізнес-інновацій. У цьому процесі підприємствам потрібні продукти платформи штучного інтелекту, які можуть підтримувати складні сценарії використання у відповідних бізнес-середовищах.
Нові тенденції також вимагають можливостей вендорів платформ машинного навчання. На думку Форрестера, провідні платформи** повинні надавати комплексні інструменти для управління даними, навчання моделей і створення додатків штучного інтелекту; Він також має бути адаптований до галузевих сценаріїв, щоб допомогти деяким підприємствам, яким не вистачає талантів у галузі штучного інтелекту та фахівців з обробки даних, отримати можливості штучного інтелекту на основі власних бізнес-потреб**; Крім того, інструменти, технології та практики можуть допомогти підприємствам розробляти та розгортати масштабні моделі.
Компанія Forrester оцінила 14 основних постачальників платформ машинного навчання в Китаї за 25 підкритеріями за трьома параметрами: можливості продукту, стратегічний макет і ринкова ефективність. Згідно з даними, Baidu Intelligent Cloud в даний час оцінюється як лідер звіту, і зайняв перше місце в 9 субоцінках, таких як дані, навчання, прогнозне міркування та застосування.
Цзінь Вей розповів, що провідні можливості продукту Baidu на платформі штучного інтелекту зазнали тривалого накопичення та шліфування. Початковий задум платформи штучного інтелекту полягає в тому, щоб створити програмне забезпечення для підвищення продуктивності, яке дозволяє різним типам корпоративних користувачів швидко та економічно створювати програми штучного інтелекту, і в той же час досягає численних алгоритмів, інструментів, швидкої роботи та хороших результатів на платформі, допомагаючи клієнтам економити сервери та робочу силу.
В даний час деякі великі підприємства енергетичної та фінансової галузей отримали широке застосування. На базі платформи штучного інтелекту підприємства можуть не тільки швидко створювати моделі та додатки штучного інтелекту, які відповідають потребам бізнесу, але й ефективно контролювати та оптимізувати продуктивність моделі. Крім того, зручніше та ефективніше керувати та координувати такі ресурси, як дані, обчислювальні потужності, люди та процеси.
Наприклад, в енергетиці інтелектуальна хмарна платформа штучного інтелекту Baidu допомагає великим групам вирішувати больові точки бізнесу. З одного боку, модель і дані можуть бути передані різним дочірнім компаніям, щоб уникнути винаходу велосипеда. У той же час деякі існуючі моделі, пов'язані з безпекою виробництва, використовують цей продукт, який може безпосередньо розповсюджуватися в провінційну або муніципальну мережу державною мережею, що може ефективно використовувати ресурси штучного інтелекту та мати стабільну якість. Крім того, платформа штучного інтелекту також може допомогти підприємствам впроваджувати інновації, такі як розробка нового алгоритму диспетчеризації живлення, використовуючи фреймворк навчання з підкріпленням Baidu, який може реалізувати автоматичне калібрування параметрів планування без ручного досвіду великої кількості експертів.
У фінансовій галузі рішення платформи штучного інтелекту Baidu Intelligent Cloud також допомогло багатьом фінансовим установам створити великі модулі управління ризиками, щоб забезпечити відповідність процесам і надійну безпеку при застосуванні штучного інтелекту до фінансових сценаріїв.
02 Ера великих моделей, як пошити
З початку цього року хвиля великих моделей і генеративного ШІ сприяла подальшому поглибленому застосуванню штучного інтелекту в галузі, а платформи машинного навчання також відкривають нові можливості для розвитку.
За словами високопоставлених джерел, після появи великих мовних моделей зміни в платформах машинного навчання відображаються на трьох рівнях. Найбільш типовою зміною є операційний інтерфейс, складний операційний інтерфейс до НЛП став простішим, а поріг для корпоративного застосування мови ШІ знижується. У той же час покращуються можливості автоматизації моделі, а такі завдання, як обробка даних, вибір моделі та автоматичне формування звітів, можуть бути автоматизовані. Крім того, відкрився простір для інноваційних додатків зі штучним інтелектом.
У цьому контексті багато компаній вважають велику модель обов'язковою для відповіді на це питання, і різні виробники платформ також готуються до запуску різних продуктів і платформ, щоб прискорити застосування технології великих моделей. Взявши за приклад Baidu, у березні цього року вона запустила платформу великих моделей Baidu Intelligent Cloud Qianfan, яка глибоко інтегрує ключові можливості розробки та застосування великих моделей з платформою штучного інтелекту для створення «суперфабрики» для великих модельних послуг.
Для того, щоб полегшити підприємствам легке використання та розробку великих модельних програм, Baidu Qianfan наразі надає не лише власну велику модель Wenxin Baidu та сторонню велику модель, але також надає різноманітні інструменти розробки ШІ та повний набір середовищ розробки, щоб допомогти індустрії генеративного штучного інтелекту в різних галузях промисловості.
Зокрема, Baidu узагальнює попит галузі на великі моделі на п'ять типів, незалежно від того, чи це клієнт, якому потрібна лише обчислювальна потужність, чи підприємство, яке хоче безпосередньо викликати API великої моделі або зробити вторинну розробку на основі існуючої великої моделі, і компанія, яка хоче розробляти нативні програми штучного інтелекту на основі великої моделі або безпосередньо використовувати розроблену програму, платформа Baidu Qianfan може надавати цільові послуги.
Для підприємств, яким потрібні лише обчислювальні потужності, платформа Baidu Qianfan може надати високоефективні та економічно вигідні гетерогенні обчислювальні потужності. Цзінь Вей розповів, що для цього технічна команда інтелектуальної хмарної платформи штучного інтелекту Baidu витратила кілька років, виконуючи багато брудної роботи. Наприклад, він сумісний з основними чіпами штучного інтелекту в країні та за кордоном, і його потрібно адаптувати з чотирьох рівнів: рівень фреймворку, основний алгоритм і мережа, модель чіпа та операційна система. «PyTorch відрізняється від TensorFlow, а операційна система – це Windows, Linux або мікроконтролер, і робота, яку потрібно виконати, також відрізняється. ** Чотиришарова комбінація виконала 40 000 адаптацій для забезпечення безперебійної роботи різних моделей. **», — сказав Цзінь Вей.
В даний час платформа великих моделей Qianfan не тільки підключена до великої моделі Wenxin 4.0, але також керує 44 сторонніми основними великими моделями в країні та за кордоном, що є найбільшою кількістю серед вітчизняних платформ.
**Деякі підприємства хочуть переробити існуючі великі моделі, що вимагає багатого інструментального ланцюжка та великої кількості наборів даних. **Платформа Qianfan в даний час має повний ланцюжок інструментів і велику кількість високоякісних наборів даних, що охоплюють весь життєвий цикл перенавчання, тонкого налаштування, оцінки та розгортання великих моделей, що може швидко оптимізувати ефект моделі відповідно до сценаріїв і ще більше поліпшити користувальницький досвід великих моделей підприємств.
Великі моделі вносять нові зміни в процес анотації даних, і багато завдань анотації можуть бути виконані за допомогою моделі. В даний час платформа Qianfan підтримує перекомпонування бізнес-даних і високоавтоматизовану анотацію даних. Наприклад, у сценарії виявлення об'єктів Qianfan безпосередньо надає можливості попереднього навчання, натискаючи на кнопку, щоб позначити невелику частину, і дозволити моделі вивчити людський стиль анотацій для автоматичного анотування, що може заощадити 70% ~ 90% робочої сили для підприємств.
Також є багато компаній, які хочуть розробляти AI-нативні додатки на основі великих моделей. У середині цього місяця Baidu Intelligent Cloud випустила «Qianfan AI Native Application Development Workbench», який включає загальні компоненти додатків і дворівневі сервіси прикладного фреймворку для розробки великомасштабних моделей додатків, які спрямовані на розвиток потреб нативних додатків ШІ.
На прикладі прикладних компонентів платформа Qianfan включає різні типи можливостей, такі як великі компоненти мовної моделі, такі як запитання та відповіді та ланцюжок думок, мультимодальні компоненти, такі як діаграма Веньшена та розпізнавання мови, а також традиційні можливості хмарних сервісів, такі як векторна база даних та об'єктне сховище.
Фреймворк програми може органічно поєднувати компоненти для виконання повного завдання конкретного сценарію. Платформа Qianfan надала на ринку широко використовувані фреймворкові послуги, такі як Retrieval Enhanced Generation (RAG) і Agent, а новаторські підприємства, такі як Sany Heavy Industry, застосували ці фреймворки для швидкої розробки власних програм запитань і відповідей знань.
Інженерія – це нова сфера, яка народилася після появи великих моделей. Це пов'язано з характером великої моделі, і невелика зміна інструкцій може мати величезне значення для її результату або поведінки. В даний час різні виробники роблять акцент на інженерних інструментах. Платформа Baidu Qianfan також надає понад 10 сценаріїв, що охоплюють діалог, програмування, електронну комерцію, медичне обслуговування, ігри, переклад, мовлення тощо, загалом 226 шаблонів. Згідно з повідомленнями, це найбільша кількість бібліотек шаблонів на основній платформі в Китаї. Розробники та підприємства також можуть використовувати різні інструменти автоматизації та пакетні інструменти, надані платформою, щоб ефективно завершити процес.
Цзінь Вей вважає, що за останні кілька місяців інтелектуальна хмарна платформа великих моделей Qianfan від Baidu заклала міцний фундамент і готова до битви 100 моделей і допомоги підприємствам застосовувати ШІ у великих масштабах.
**03 Платформа штучного інтелекту, яка наступна зупинка? **
Штучний інтелект призначений не лише для великого бізнесу. В даний час виробники платформ машинного навчання надають значення всебічному охопленню великих підприємств, малих і середніх клієнтів і ринків розробників, а рішення платформи штучного інтелекту Baidu Intelligent Cloud також цілеспрямовано обслуговують різні групи.
Цзінь Вей розповів Digital Intelligence Frontier, що рішення платформи штучного інтелекту Baidu є загальним терміном для ряду продуктів, включаючи такі продукти, як повнофункціональна платформа розробки штучного інтелекту BML, платформа розробки ШІ з нульовим порогом EasyDL і платформа великої моделі Baidu Intelligent Cloud Qianfan. Для різних сфер або різних уподобань клієнтів AI-платформа має відповідну продуктову адаптацію. Наприклад, можливість обробки даних упакована в продукт EasyData, а можливість моделювання з нульовим кодом також витягується для створення продукту EasyDL, який може допомогти користувачам завершити моделювання з нульовим кодом за допомогою високопродуктивних попередньо навчених моделей, а можливості великих моделей несе інтелектуальна хмарна платформа Baidu Qianfan.
У публічній хмарі більшість замовників – це малі та середні підприємства, а модулі AI-платформи заново розбираються та об'єднуються, а повнофункціональна платформа розробки ШІ BML та продукти EasyDL є основними представниками для задоволення потреб. У відповідь на потреби великих замовників у розгортанні приватизації, різні продукти будуть упаковані в надвеликі продукти для завершення доставки.
Згідно зі звітом Forrester, можливості продукту інтелектуальної хмарної платформи штучного інтелекту Baidu добре показали себе в п'яти основних областях: обробка даних, навчання моделей, прогнозне мислення, застосування та архітектура.
Цзінь Вей представив унікальні можливості та переваги в різних сферах. Взявши за приклад розробку функцій у сфері даних, Цзінь Вей представив, що платформа штучного інтелекту Baidu інтегрує дуже чудові можливості управління бібліотекою функцій, і її можливості досягли професійного рівня. Він може надавати такі функції, як додавання, видалення, модифікація та запит функцій, створення функцій, обмін, керування версіями, перевірка даних тощо, підтримувати різні форми даних у потоці затвердження служб прогнозування та гарантувати, що функції, які використовуються в навчанні моделі, відповідають функціям у остаточному прогнозі. «Якщо під час тренувань розподіл ознак становить 50 відсотків чоловіків і 50 відсотків жінок, а також прогнозується 60 відсотків чоловіків і 40 відсотків жінок, то ви не можете очікувати, що модель буде особливо точною», — каже Цзінь Вей, що має вирішальне значення для точності моделі.
Наприклад, у сфері навчання моделей платформа штучного інтелекту Baidu може підтримувати моделювання та навчання різних типів даних, включаючи зображення, відео, текст, мову та структуровані дані. З точки зору моделювання, підтримка інструментів NoteBook надається людям, які готові писати код, а люди, які не люблять писати код, можуть перетягнути або навіть натиснути вбудовану єдину кнопку для моделювання. Для великої кількості сценаріїв, таких як класифікація зображень, мультимітка з однією міткою, виявлення об'єктів та інші сценарії CV, команда алгоритмів Paddle провела глибоку оптимізацію на основі оператора Paddle, і продуктивність та ефект будуть кращими.
Унікальні переваги продуктивності продукту невіддільні від довгострокових технічних інвестицій та уваги до нових технологічних тенденцій. За словами команди досліджень і розробок платформи штучного інтелекту Baidu, вони дуже стурбовані новими технологічними тенденціями, наприклад, три роки тому в індустрії обговорювалася проблема інтерпретованості моделі, і якщо ви не знаєте, як модель приймає рішення, це вплине на використання моделі в сценаріях з високими вимогами до відповідності вимогам безпеки. Взагалі кажучи, моделі глибокого навчання мають набагато більші параметри, ніж традиційні моделі машинного навчання, і проблема чорного ящика буде серйознішою.
Після тривалого періоду підготовки команда платформи Baidu AI нарешті подолала алгоритм пояснення моделі в області звичайного машинного навчання, інтегрувала принципи «білого ящика» п'яти поширених машинних тренінгів, а також подолала деякі проблеми інтерпретації глибокого навчання. «З'ясування того, коли модель приймає рішення, незалежно від того, керується вона даними чи алгоритмом, можна пояснити, і ці результати сприяють застосуванню продуктів, пов'язаних із платформою штучного інтелекту, у спеціальних галузевих сценаріях, таких як прийняття фінансових рішень». Цзінь Вей представив.
В даний час індустрія поділяє парадигму розробки великих моделей на п'ять рівнів: власне велика модель, інженерія, ланцюговий ланцюжок інструментів і ланцюжок дій, агентство і мультиагентство. Основний фокус інтелектуальної хмарної платформи Baidu Qianfan був дуже міцним на першому та другому рівнях, а останні три рівні, включаючи ланцюжок інструментів, агентські та міжвідомчі можливості, також знаходяться на ключовій стадії будівництва. Цзінь Вей представив, що платформа великої моделі Qianfan буде продовжувати вдосконалюватися і модернізуватися, так що велика модель може самостійно проявляти свою суб'єктивну ініціативу і мати можливість вирішувати складні завдання. При цьому не виключені плани виходу в море в майбутньому**.
Загалом в умовах інтелектуальної побудови підприємств застосування ШІ підприємствами було глибоко модернізовано, а конкуренція у сфері ШІ-платформ ставала дедалі жорсткішою. Щоб залишатися на крок попереду та вирішувати довгострокові проблеми, пов'язані зі зміною відповідності та технічною складністю, виробникам також потрібно буде інвестувати в технології. Цзінь Вей вважає, що виробники повинні дотримуватися технологічних інновацій і підвищувати задоволеність клієнтів, безпеку та відповідність, щоб адаптуватися до цього мінливого ринку.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
100 модельних війн, не боріться за єдину платформу
Першоджерело: Digital Intelligence Frontline
Автор: Сюй Сінь
Інтелектуальна трансформація галузі увійшла в глибоководну область, і точки попиту підприємств на можливості штучного інтелекту змінюються.
Все більше і більше великих підприємств виходять за рамки одного інтелектуального додатку. У таких галузях, як електроенергетика та фінанси, великі підприємства зосереджуються на всьому процесі виробництва, застосування та управління можливостями штучного інтелекту та висувають вимоги до навчальних платформ та інструментів продуктивності платформ виробників, щоб вирішити низку больових точок, таких як дефіцит талантів, дефіцит даних, труднощі в управлінні та низький рівень повторного використання ресурсів.
Після приходу буму великих моделей фокус платформної конкуренції змістився на розробку та застосування великих моделей, а виробники активно поєднують попередні рішення AI-платформи з великими моделями. У конкурсі платформ були виділені переваги деяких компаній. Міжнародне аналітичне агентство Forrester нещодавно опублікувало звіт, який показує, що в конкуренції китайських платформ штучного інтелекту/машинного навчання Baidu Intelligent Cloud показала хороші результати, а платформи штучного інтелекту, які брали участь у відборі, отримали найвищі бали в 6 категоріях, таких як дані, міркування та застосування15 підкатегорій, посівши місце в квадранті лідерів**.
Платформа штучного інтелекту допомагає підприємствам швидко створювати моделі та програми штучного інтелекту, які відповідають потребам бізнесу, а також ефективно контролювати та оптимізувати продуктивність моделей.
Ситуація з побудовою 100 моделей на 100 сцен відходить у минуле.
01 Глибоке використання штучного інтелекту, проблеми старої зброї
**Індустрія вступає в стадію поглибленого застосування штучного інтелекту, і штучний інтелект більше не є недосяжним. Однак все більше підприємств виявляють, що з поглибленням додатків старші користувачі в області корпоративної розвідки стикаються з новими проблемами.
Візьмемо для прикладу енергетичну галузь, великі енергетичні компанії використовували моделі штучного інтелекту для кількох сценаріїв, таких як перевірка ланцюга. Як правило, відповідні потреби таких підприємств здебільшого закуповуються самостійно різними відділами чи філіями. Зі збільшенням кількості застосувань штучного інтелекту зростає і кількість моделей. Управління великою кількістю моделей і забезпечення їх стабільної та ефективної роботи стає складним завданням.
Подібні проблеми виникають на багатьох великих підприємствах. Ветеран розповів Digital Intelligence Frontline, що він особисто бачив, що відділ А на підприємстві ставить 5 людей для виконання алгоритму А, а відділ Б також ставить кількох людей у команду Б для виконання алгоритмів, що ускладнює проведення уніфікованого моніторингу, оптимізації, оновлення та обслуговування на рівні компанії, а загальний рівень повторного використання ресурсів ШІ на підприємстві дуже низький.
Деякі підприємства чи установи вже застосували технологію штучного інтелекту для схвалення видачі кредитних карток та виявлення шахрайства, щоб досягти контролю ризиків штучного інтелекту та точного маркетингу. Але акцент фінансової індустрії на безпеці та відповідності вимогам поширюється і на застосування штучного інтелекту. Наприклад, технічна команда в банку надає великого значення факторам комплаєнсу, а при створенні нової моделі, хто відповідає за делегування та затвердження будівництва, хто займається затвердженням зчитування даних, а також запис даних, створення моделі, навчання, посадка та запуск також гарантуються шарами процесів. Очевидно, що такий попит не є традиційною інтелектуальною конструкцією додатків.
Високопоставлений фахівець з галузевих рішень з постачальника хмарних послуг розповів Digital Intelligence Frontier, що деякі великі центральні державні підприємства явно сподіваються побудувати інтелектуальний хаб підприємства та розвивати власні можливості штучного інтелекту, щоб цифровий відділ підприємства міг розробляти власні алгоритми для нових сценаріїв і створювати нові програми.
Така тенденція спостерігається і в галузі. Цзінь Вей, старший архітектор інтелектуальної хмарної платформи штучного інтелекту Baidu, сказав передовій цифрового інтелекту, що це відображає те, що програми штучного інтелекту рухаються до глибоководної області, а систематична трансформація підприємств стає все більш помітною. Підприємства повинні мати не тільки бачення та планування цілей, але й мати сильний механізм координації та нагляду за просуванням, а також мати повні інструменти для забезпечення безперебійної реалізації. Платформа штучного інтелекту є інструментом продуктивності для інтелектуальної трансформації підприємств.
Індустрія усвідомила важливість цього продукту платформи. Міжнародна аналітична фірма Forrester нещодавно опублікувала звіт «The Forrester WaveTM: оцінка постачальників платформ AI/ML на китайському ринку, Q42023», в якому зазначається, що особи, які приймають рішення на підприємствах Китаю, приділяють першочергову увагу впровадженню технології штучного інтелекту для підвищення продуктивності та бізнес-інновацій. У цьому процесі підприємствам потрібні продукти платформи штучного інтелекту, які можуть підтримувати складні сценарії використання у відповідних бізнес-середовищах.
Нові тенденції також вимагають можливостей вендорів платформ машинного навчання. На думку Форрестера, провідні платформи** повинні надавати комплексні інструменти для управління даними, навчання моделей і створення додатків штучного інтелекту; Він також має бути адаптований до галузевих сценаріїв, щоб допомогти деяким підприємствам, яким не вистачає талантів у галузі штучного інтелекту та фахівців з обробки даних, отримати можливості штучного інтелекту на основі власних бізнес-потреб**; Крім того, інструменти, технології та практики можуть допомогти підприємствам розробляти та розгортати масштабні моделі.
Компанія Forrester оцінила 14 основних постачальників платформ машинного навчання в Китаї за 25 підкритеріями за трьома параметрами: можливості продукту, стратегічний макет і ринкова ефективність. Згідно з даними, Baidu Intelligent Cloud в даний час оцінюється як лідер звіту, і зайняв перше місце в 9 субоцінках, таких як дані, навчання, прогнозне міркування та застосування.
Цзінь Вей розповів, що провідні можливості продукту Baidu на платформі штучного інтелекту зазнали тривалого накопичення та шліфування. Початковий задум платформи штучного інтелекту полягає в тому, щоб створити програмне забезпечення для підвищення продуктивності, яке дозволяє різним типам корпоративних користувачів швидко та економічно створювати програми штучного інтелекту, і в той же час досягає численних алгоритмів, інструментів, швидкої роботи та хороших результатів на платформі, допомагаючи клієнтам економити сервери та робочу силу.
В даний час деякі великі підприємства енергетичної та фінансової галузей отримали широке застосування. На базі платформи штучного інтелекту підприємства можуть не тільки швидко створювати моделі та додатки штучного інтелекту, які відповідають потребам бізнесу, але й ефективно контролювати та оптимізувати продуктивність моделі. Крім того, зручніше та ефективніше керувати та координувати такі ресурси, як дані, обчислювальні потужності, люди та процеси.
Наприклад, в енергетиці інтелектуальна хмарна платформа штучного інтелекту Baidu допомагає великим групам вирішувати больові точки бізнесу. З одного боку, модель і дані можуть бути передані різним дочірнім компаніям, щоб уникнути винаходу велосипеда. У той же час деякі існуючі моделі, пов'язані з безпекою виробництва, використовують цей продукт, який може безпосередньо розповсюджуватися в провінційну або муніципальну мережу державною мережею, що може ефективно використовувати ресурси штучного інтелекту та мати стабільну якість. Крім того, платформа штучного інтелекту також може допомогти підприємствам впроваджувати інновації, такі як розробка нового алгоритму диспетчеризації живлення, використовуючи фреймворк навчання з підкріпленням Baidu, який може реалізувати автоматичне калібрування параметрів планування без ручного досвіду великої кількості експертів.
У фінансовій галузі рішення платформи штучного інтелекту Baidu Intelligent Cloud також допомогло багатьом фінансовим установам створити великі модулі управління ризиками, щоб забезпечити відповідність процесам і надійну безпеку при застосуванні штучного інтелекту до фінансових сценаріїв.
02 Ера великих моделей, як пошити
З початку цього року хвиля великих моделей і генеративного ШІ сприяла подальшому поглибленому застосуванню штучного інтелекту в галузі, а платформи машинного навчання також відкривають нові можливості для розвитку.
За словами високопоставлених джерел, після появи великих мовних моделей зміни в платформах машинного навчання відображаються на трьох рівнях. Найбільш типовою зміною є операційний інтерфейс, складний операційний інтерфейс до НЛП став простішим, а поріг для корпоративного застосування мови ШІ знижується. У той же час покращуються можливості автоматизації моделі, а такі завдання, як обробка даних, вибір моделі та автоматичне формування звітів, можуть бути автоматизовані. Крім того, відкрився простір для інноваційних додатків зі штучним інтелектом.
У цьому контексті багато компаній вважають велику модель обов'язковою для відповіді на це питання, і різні виробники платформ також готуються до запуску різних продуктів і платформ, щоб прискорити застосування технології великих моделей. Взявши за приклад Baidu, у березні цього року вона запустила платформу великих моделей Baidu Intelligent Cloud Qianfan, яка глибоко інтегрує ключові можливості розробки та застосування великих моделей з платформою штучного інтелекту для створення «суперфабрики» для великих модельних послуг.
Зокрема, Baidu узагальнює попит галузі на великі моделі на п'ять типів, незалежно від того, чи це клієнт, якому потрібна лише обчислювальна потужність, чи підприємство, яке хоче безпосередньо викликати API великої моделі або зробити вторинну розробку на основі існуючої великої моделі, і компанія, яка хоче розробляти нативні програми штучного інтелекту на основі великої моделі або безпосередньо використовувати розроблену програму, платформа Baidu Qianfan може надавати цільові послуги.
Для підприємств, яким потрібні лише обчислювальні потужності, платформа Baidu Qianfan може надати високоефективні та економічно вигідні гетерогенні обчислювальні потужності. Цзінь Вей розповів, що для цього технічна команда інтелектуальної хмарної платформи штучного інтелекту Baidu витратила кілька років, виконуючи багато брудної роботи. Наприклад, він сумісний з основними чіпами штучного інтелекту в країні та за кордоном, і його потрібно адаптувати з чотирьох рівнів: рівень фреймворку, основний алгоритм і мережа, модель чіпа та операційна система. «PyTorch відрізняється від TensorFlow, а операційна система – це Windows, Linux або мікроконтролер, і робота, яку потрібно виконати, також відрізняється. ** Чотиришарова комбінація виконала 40 000 адаптацій для забезпечення безперебійної роботи різних моделей. **», — сказав Цзінь Вей.
В даний час платформа великих моделей Qianfan не тільки підключена до великої моделі Wenxin 4.0, але також керує 44 сторонніми основними великими моделями в країні та за кордоном, що є найбільшою кількістю серед вітчизняних платформ.
**Деякі підприємства хочуть переробити існуючі великі моделі, що вимагає багатого інструментального ланцюжка та великої кількості наборів даних. **Платформа Qianfan в даний час має повний ланцюжок інструментів і велику кількість високоякісних наборів даних, що охоплюють весь життєвий цикл перенавчання, тонкого налаштування, оцінки та розгортання великих моделей, що може швидко оптимізувати ефект моделі відповідно до сценаріїв і ще більше поліпшити користувальницький досвід великих моделей підприємств.
Великі моделі вносять нові зміни в процес анотації даних, і багато завдань анотації можуть бути виконані за допомогою моделі. В даний час платформа Qianfan підтримує перекомпонування бізнес-даних і високоавтоматизовану анотацію даних. Наприклад, у сценарії виявлення об'єктів Qianfan безпосередньо надає можливості попереднього навчання, натискаючи на кнопку, щоб позначити невелику частину, і дозволити моделі вивчити людський стиль анотацій для автоматичного анотування, що може заощадити 70% ~ 90% робочої сили для підприємств.
Також є багато компаній, які хочуть розробляти AI-нативні додатки на основі великих моделей. У середині цього місяця Baidu Intelligent Cloud випустила «Qianfan AI Native Application Development Workbench», який включає загальні компоненти додатків і дворівневі сервіси прикладного фреймворку для розробки великомасштабних моделей додатків, які спрямовані на розвиток потреб нативних додатків ШІ.
Фреймворк програми може органічно поєднувати компоненти для виконання повного завдання конкретного сценарію. Платформа Qianfan надала на ринку широко використовувані фреймворкові послуги, такі як Retrieval Enhanced Generation (RAG) і Agent, а новаторські підприємства, такі як Sany Heavy Industry, застосували ці фреймворки для швидкої розробки власних програм запитань і відповідей знань.
Інженерія – це нова сфера, яка народилася після появи великих моделей. Це пов'язано з характером великої моделі, і невелика зміна інструкцій може мати величезне значення для її результату або поведінки. В даний час різні виробники роблять акцент на інженерних інструментах. Платформа Baidu Qianfan також надає понад 10 сценаріїв, що охоплюють діалог, програмування, електронну комерцію, медичне обслуговування, ігри, переклад, мовлення тощо, загалом 226 шаблонів. Згідно з повідомленнями, це найбільша кількість бібліотек шаблонів на основній платформі в Китаї. Розробники та підприємства також можуть використовувати різні інструменти автоматизації та пакетні інструменти, надані платформою, щоб ефективно завершити процес.
Цзінь Вей вважає, що за останні кілька місяців інтелектуальна хмарна платформа великих моделей Qianfan від Baidu заклала міцний фундамент і готова до битви 100 моделей і допомоги підприємствам застосовувати ШІ у великих масштабах.
**03 Платформа штучного інтелекту, яка наступна зупинка? **
Штучний інтелект призначений не лише для великого бізнесу. В даний час виробники платформ машинного навчання надають значення всебічному охопленню великих підприємств, малих і середніх клієнтів і ринків розробників, а рішення платформи штучного інтелекту Baidu Intelligent Cloud також цілеспрямовано обслуговують різні групи.
Цзінь Вей розповів Digital Intelligence Frontier, що рішення платформи штучного інтелекту Baidu є загальним терміном для ряду продуктів, включаючи такі продукти, як повнофункціональна платформа розробки штучного інтелекту BML, платформа розробки ШІ з нульовим порогом EasyDL і платформа великої моделі Baidu Intelligent Cloud Qianfan. Для різних сфер або різних уподобань клієнтів AI-платформа має відповідну продуктову адаптацію. Наприклад, можливість обробки даних упакована в продукт EasyData, а можливість моделювання з нульовим кодом також витягується для створення продукту EasyDL, який може допомогти користувачам завершити моделювання з нульовим кодом за допомогою високопродуктивних попередньо навчених моделей, а можливості великих моделей несе інтелектуальна хмарна платформа Baidu Qianfan.
У публічній хмарі більшість замовників – це малі та середні підприємства, а модулі AI-платформи заново розбираються та об'єднуються, а повнофункціональна платформа розробки ШІ BML та продукти EasyDL є основними представниками для задоволення потреб. У відповідь на потреби великих замовників у розгортанні приватизації, різні продукти будуть упаковані в надвеликі продукти для завершення доставки.
Згідно зі звітом Forrester, можливості продукту інтелектуальної хмарної платформи штучного інтелекту Baidu добре показали себе в п'яти основних областях: обробка даних, навчання моделей, прогнозне мислення, застосування та архітектура.
Цзінь Вей представив унікальні можливості та переваги в різних сферах. Взявши за приклад розробку функцій у сфері даних, Цзінь Вей представив, що платформа штучного інтелекту Baidu інтегрує дуже чудові можливості управління бібліотекою функцій, і її можливості досягли професійного рівня. Він може надавати такі функції, як додавання, видалення, модифікація та запит функцій, створення функцій, обмін, керування версіями, перевірка даних тощо, підтримувати різні форми даних у потоці затвердження служб прогнозування та гарантувати, що функції, які використовуються в навчанні моделі, відповідають функціям у остаточному прогнозі. «Якщо під час тренувань розподіл ознак становить 50 відсотків чоловіків і 50 відсотків жінок, а також прогнозується 60 відсотків чоловіків і 40 відсотків жінок, то ви не можете очікувати, що модель буде особливо точною», — каже Цзінь Вей, що має вирішальне значення для точності моделі.
Наприклад, у сфері навчання моделей платформа штучного інтелекту Baidu може підтримувати моделювання та навчання різних типів даних, включаючи зображення, відео, текст, мову та структуровані дані. З точки зору моделювання, підтримка інструментів NoteBook надається людям, які готові писати код, а люди, які не люблять писати код, можуть перетягнути або навіть натиснути вбудовану єдину кнопку для моделювання. Для великої кількості сценаріїв, таких як класифікація зображень, мультимітка з однією міткою, виявлення об'єктів та інші сценарії CV, команда алгоритмів Paddle провела глибоку оптимізацію на основі оператора Paddle, і продуктивність та ефект будуть кращими.
Унікальні переваги продуктивності продукту невіддільні від довгострокових технічних інвестицій та уваги до нових технологічних тенденцій. За словами команди досліджень і розробок платформи штучного інтелекту Baidu, вони дуже стурбовані новими технологічними тенденціями, наприклад, три роки тому в індустрії обговорювалася проблема інтерпретованості моделі, і якщо ви не знаєте, як модель приймає рішення, це вплине на використання моделі в сценаріях з високими вимогами до відповідності вимогам безпеки. Взагалі кажучи, моделі глибокого навчання мають набагато більші параметри, ніж традиційні моделі машинного навчання, і проблема чорного ящика буде серйознішою.
Після тривалого періоду підготовки команда платформи Baidu AI нарешті подолала алгоритм пояснення моделі в області звичайного машинного навчання, інтегрувала принципи «білого ящика» п'яти поширених машинних тренінгів, а також подолала деякі проблеми інтерпретації глибокого навчання. «З'ясування того, коли модель приймає рішення, незалежно від того, керується вона даними чи алгоритмом, можна пояснити, і ці результати сприяють застосуванню продуктів, пов'язаних із платформою штучного інтелекту, у спеціальних галузевих сценаріях, таких як прийняття фінансових рішень». Цзінь Вей представив.
В даний час індустрія поділяє парадигму розробки великих моделей на п'ять рівнів: власне велика модель, інженерія, ланцюговий ланцюжок інструментів і ланцюжок дій, агентство і мультиагентство. Основний фокус інтелектуальної хмарної платформи Baidu Qianfan був дуже міцним на першому та другому рівнях, а останні три рівні, включаючи ланцюжок інструментів, агентські та міжвідомчі можливості, також знаходяться на ключовій стадії будівництва. Цзінь Вей представив, що платформа великої моделі Qianfan буде продовжувати вдосконалюватися і модернізуватися, так що велика модель може самостійно проявляти свою суб'єктивну ініціативу і мати можливість вирішувати складні завдання. При цьому не виключені плани виходу в море в майбутньому**.
Загалом в умовах інтелектуальної побудови підприємств застосування ШІ підприємствами було глибоко модернізовано, а конкуренція у сфері ШІ-платформ ставала дедалі жорсткішою. Щоб залишатися на крок попереду та вирішувати довгострокові проблеми, пов'язані зі зміною відповідності та технічною складністю, виробникам також потрібно буде інвестувати в технології. Цзінь Вей вважає, що виробники повинні дотримуватися технологічних інновацій і підвищувати задоволеність клієнтів, безпеку та відповідність, щоб адаптуватися до цього мінливого ринку.