Могут ли быть какие-то подводные камни в модели ИИ под лозунгом «открытый исходный код»?

Появление ChatGPT предоставило большему количеству людей доступ к мощному искусственному интеллекту (ИИ), но внутренняя работа чат-бота остается нераскрытой тайной.

В результате работа над тем, чтобы сделать ИИ более «открытым», в последние месяцы, похоже, привлекла больше внимания. **

В мае этого года кто-то опубликовал модель Меты «Лама», предоставив внешнему миру доступ к ее базовому коду и весам модели, определяющим ее поведение. В июле Meta выпустила более мощную модель Llama 2, которую, по ее утверждению, каждый может бесплатно загрузить, изменить и использовать повторно. С тех пор серия моделей Llama от Meta стала основой для многих компаний, исследователей и любителей искусственного интеллекта при создании инструментов и приложений с возможностями, подобными ChatGPT.

«Сегодня у нас есть широкий круг сторонников по всему миру, которые верят в наш открытый подход к ИИ… Исследователи стремятся проводить исследования с использованием этой модели, и люди в сфере технологий, научных кругов и политики работают с нами. Мы тоже видим преимущества Llama и открытой платформы», — заявила Мета на презентации Llama 2. Несколько дней назад Meta также выпустила еще одну модель — Llama 2 Code, хорошо настроенную для кодирования.

**После десятилетий демократизации доступа к программному обеспечению, обеспечения прозрачности и повышения безопасности, теперь ожидается, что подход с открытым исходным кодом окажет аналогичное влияние на искусственный интеллект. **

** Но этого может быть недостаточно. **

Исследовательская группа из Университета Карнеги-Меллона, Института AI Now и Signal Foundation опубликовала статью под названием «Открытость (для бизнеса): большие технологии, концентрированная власть и политическая экономия открытого ИИ», в которой исследуются реалии «ламы 2» и другие модели искусственного интеллекта, исходный код которых в некотором роде «открыт». Они сказали, что в модели под лозунгом "открытый исходный код" могут быть некоторые "подводные камни".

Согласно документу, **хотя Llama 2 можно загрузить, изменить и развернуть бесплатно, на нее не распространяются традиционные лицензии с открытым исходным кодом. ** Лицензия Meta запрещает использование Llama 2 для обучения других языковых моделей. Специальная лицензия требуется, если разработчик развертывает Llama 2 в приложении или сервисе с более чем 700 миллионами пользователей в день.

**Такой уровень контроля означает, что Llama 2 может принести значительные технические и стратегические преимущества для Meta — например, Meta может получить выгоду от полезных корректировок, когда внешние компании используют модель Llama 2 в своих собственных приложениях. **

По словам исследователей, модели, выпущенные под общими лицензиями с открытым исходным кодом, такие как GPT Neo некоммерческой организации EleutherAI, более открыты. Но этим проектам трудно конкурировать с моделями более крупных компаний.

Во-первых, данные, необходимые для обучения сложных моделей, часто являются конфиденциальными; Во-вторых, программные платформы, необходимые для построения таких моделей, обычно контролируются крупными компаниями, а двумя наиболее популярными программными платформами являются TensorFlow и Pytorch соответственно. Поддерживается Google и Meta; Кроме того, мощность компьютера, необходимая для обучения крупномасштабных моделей искусственного интеллекта, недосягаема для обычных разработчиков или компаний, обычно для одного сеанса обучения требуются десятки или сотни миллионов долларов. ; *Наконец * , рабочая сила, необходимая для доработки и улучшения этих моделей, также в основном является ресурсом, который могут получить только крупные компании.

Поэтому исследовательская группа считает, что судя по текущим тенденциям, эта одна из самых важных технологий за последние десятилетия может в конечном итоге обогатить и расширить возможности лишь нескольких компаний, включая OpenAI, Microsoft, Meta и Google. Если искусственный интеллект действительно является технологией, способной изменить мир, и если его можно будет применять и популяризировать более широко, он сможет принести наибольшую пользу всему миру.

«Наш анализ показывает, что (этот уровень) открытого исходного кода не только не «демократизирует» ИИ», — сказала Wired Мередит Уиттакер, один из авторов статьи, — «Действительно, компании и учреждения могут это сделать. консолидировать и расширять концентрацию власти».

Более того,** даже самые открытые системы ИИ сами по себе не обеспечат демократического доступа или значимой конкуренции в области ИИ, а открытость сама по себе не решит проблемы надзора и цензуры. **

Уиттакер добавил, что открытый исходный код должен стать важным фактором в столь необходимых правилах в области ИИ: «Нам действительно нужны значимые альтернативы технологиям, определяемым и доминируемыми крупными монополиями, особенно когда системы ИИ интегрированы в высокочувствительные области особого общественного воздействия, такие как здравоохранение. , финансы, образование и т. д. Создание условий, которые сделают эту замену возможной, — это проект, который может сосуществовать или даже поддерживаться регуляторными движениями, такими как антимонопольная реформа».

Исследовательская группа также утверждает, что, помимо балансировки сил крупных компаний, повышение открытости ИИ может иметь решающее значение для раскрытия лучшего потенциала технологии, избегая при этом ее худших тенденций. **

** Если мы хотим понять, насколько эффективны современные модели ИИ, и снизить риски, которые могут повлечь за собой их внедрение и дальнейшее развитие, лучше всего сделать эти модели доступными для ученых всего мира. **

Точно так же, как «безопасность через неизвестность» никогда не может по-настоящему гарантировать безопасную работу кода, защита того, как работают мощные модели ИИ, не обязательно является самым разумным решением.

Справочная ссылка: