Можливо, є якісь підводні камені в моделі ШІ під прапором «відкритого коду»?

Поява ChatGPT надала більшій кількості людей доступ до потужного штучного інтелекту (ШІ), але внутрішня робота чат-бота залишається нерозкритою таємницею.

Як наслідок, робота над тим, щоб зробити штучний інтелект більш «відкритим», здається, привернула більше уваги в останні місяці. **

У травні цього року хтось розкрив інформацію про модель Meta «Llama», надаючи зовнішньому світу доступ до базового коду та вагових коефіцієнтів моделі, які визначають її поведінку. У липні Meta запустила більш потужну модель Llama 2, яку, за її словами, можна безкоштовно завантажити, змінити та повторно використовувати. Відтоді серія моделей Meta Llama стала основою для багатьох компаній, дослідників і любителів штучного інтелекту для створення інструментів і програм із можливостями, подібними до ChatGPT.

«У нас є багато зацікавлених сторін у всьому світі, які вірять у наш відкритий підхід до штучного інтелекту сьогодні... Дослідники віддані проведенню досліджень за допомогою моделі, а люди з технологій, наукових кіл і політиків працюють з нами. Ми також бачимо, переваги Llama та відкритої платформи», — сказав Мета під час запуску Llama 2. Кілька днів тому Meta також випустила ще одну модель — Llama 2 Code, яка налаштована на кодування.

**Після десятиліть демократизації доступу до програмного забезпечення, забезпечення прозорості та покращення безпеки тепер очікується, що підхід із відкритим кодом матиме подібний вплив на штучний інтелект. **

** Але цього може бути недостатньо. **

Дослідницька група з Університету Карнегі-Меллона, Інституту AI Now і Signal Foundation опублікувала статтю під назвою «Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI»» досліджує реалії «Llama» 2" та інші моделі штучного інтелекту, які певним чином є "відкритими". Вони сказали, що в моделі під банером «відкритого вихідного коду» можуть бути деякі «помилки».

Згідно з документом, **хоча Llama 2 можна безкоштовно завантажувати, змінювати та розгортати, на неї не поширюються традиційні ліцензії з відкритим кодом. ** Ліцензія Meta забороняє використовувати Llama 2 для навчання інших мовних моделей, і потрібна спеціальна ліцензія, якщо розробник розгортає Llama 2 у програмі чи службі з понад 700 мільйонами щоденних користувачів.

**Цей рівень контролю означає, що Llama 2 може принести значні технічні та стратегічні переваги Meta - наприклад, Meta може отримати вигоду від корисних коригувань, коли сторонні компанії використовують модель Llama 2 у своїх власних програмах. **

За словами дослідників, моделі, випущені за звичайними ліцензіями з відкритим вихідним кодом, такі як GPT Neo некомерційної організації EleutherAI, є більш відкритими. Але цим проектам важко конкурувати з моделями, запущеними більшими компаніями.

По-перше, дані, необхідні для навчання розширених моделей, часто є конфіденційними; По-друге, програмні інфраструктури, необхідні для створення таких моделей, зазвичай контролюються великими компаніями, а двома найпопулярнішими програмними фреймворками є TensorFlow і Pytorch відповідно Підтримується Google і Meta; Крім того, потужність комп’ютера, необхідна для навчання великомасштабних моделей штучного інтелекту, недоступна звичайним розробникам або компаніям, зазвичай для одного навчального сеансу потрібні десятки або сотні мільйонів доларів ; *Нарешті * , робоча сила, необхідна для вдосконалення та покращення цих моделей, також є переважно ресурсом, який можуть отримати лише великі компанії.

Тому дослідницька група вважає, що судячи з поточних тенденцій, ця одна з найважливіших технологій за останні десятиліття може зрештою збагатити та розширити можливості лише кількох компаній, включаючи OpenAI, Microsoft, Meta та Google. Якщо штучний інтелект справді є технологією, яка може змінити світ, і якщо його можна застосовувати та популяризувати ширше, він може принести найбільшу користь усьому світу.

«Наш аналіз показує, що (такий рівень) відкритого коду не тільки не «демократизує» штучний інтелект, — сказала Wired Мередіт Віттакер, один із авторів статті, — справді, компанії та установи можуть і він використовує технології «відкритого коду». зміцнити і розширити концентрацію влади».

Крім того,** навіть найбільш відкриті «відкриті» системи штучного інтелекту самі по собі не забезпечать демократичний доступ або значущу конкуренцію в штучному інтелекті, а також відкритість сама по собі не вирішить проблеми нагляду та цензури. **

Віттакер додав, що відкрите кодове джерело повинно бути важливим фактором у вкрай необхідних нормах щодо штучного інтелекту: «Нам справді потрібні значущі альтернативи технологіям, які визначаються та домінують великими монополіями, особливо коли системи штучного інтелекту інтегровані у дуже чутливі сфери особливого суспільного впливу, такі як охорона здоров’я. , фінанси, освіта тощо. Створення умов, щоб зробити таку заміну можливою, є проектом, який може співіснувати з регулятивними рухами, такими як антимонопольна реформа, або навіть підтримуватися ними».

Дослідницька група також каже, що окрім збалансування потужностей великих компаній, підвищення відкритості штучного інтелекту може мати вирішальне значення для розкриття найкращого потенціалу технології, уникаючи її найгірших тенденцій. **

** Якщо ми хочемо зрозуміти, наскільки ефективні найсучасніші моделі штучного інтелекту, і зменшити ризики, які можуть спричинити за собою розгортання та подальший розвиток, найкраще зробити ці моделі доступними для вчених у всьому світі. **

Подібно до того, як «безпека через невідомість» ніколи не може справді гарантувати, що код працює безпечно, захистити роботу потужних моделей штучного інтелекту не обов’язково найрозумніше.

Посилання на посилання: