Источник изображения: сгенерировано инструментом Unbounded AI
** Новости СМИ в четверг показали, что Федеральная торговая комиссия США (FTC) расследует OpenAI. FTC направила OpenAI письмо с запросом о проведении гражданского расследования.В центре внимания расследования находится вопрос о том, причинил ли чат-робот OpenAI ChatGPT ущерб соответствующим лицам из-за публикации ложной информации, и как OpenAI справляется с соответствующими рисками. **
** Расследование FTC знаменует собой первый случай, когда регулирующие органы США официально начали проверку рисков, связанных с чат-ботами с искусственным интеллектом. ** Федеральная торговая комиссия, возглавляемая Линой Хан, обладает широкими полномочиями по борьбе с недобросовестной и вводящей в заблуждение деловой практикой. ** Расследование FTC означает, что ChatGPT, в настоящее время самое популярное приложение в мире, сталкивается с потенциальными юридическими угрозами. **
FTC написала в письме:
Пожалуйста, подробно опишите, в какой степени вы предприняли шаги для устранения или снижения риска того, что ваш продукт модели большого языка может генерировать ложные, вводящие в заблуждение или клеветнические заявления о реальных людях.
Нынешние законодатели особенно обеспокоены риском появления так называемых дипфейковых видеороликов, в которых ложно изображены реальные люди, совершающие смущающие действия или говорящие смущающие вещи.
Однако соответствующие инсайдеры отрасли считают, что FTC слишком широк. СМИ цитируют Адама Ковачевича, генерального директора Палаты прогресса, группы по торговле технологиями, который сказал: «Когда ChatGPT говорит неправильные вещи о ком-то и может нанести ущерб его репутации, входит ли этот вопрос в юрисдикцию Федеральной торговой комиссии? Не думаю, что это вообще ясно.Такого рода вещи больше относятся к сфере речи, к сфере регулирования речи, что выходит за рамки компетенции Федеральной торговой комиссии».
FTC также задала в письме конкретные вопросы о методах защиты данных и конфиденциальности OpenAI, чтобы выяснить, не прибегает ли он к недобросовестным или вводящим в заблуждение методам. FTC сослалась на инцидент в 2020 году, когда OpenAI обнаружил ошибку, которая позволяла пользователям видеть чаты других людей и некоторую информацию, связанную с платежами.
В целом письмо FTC вызвало десятки вопросов. Другие темы включают в себя: технические детали дизайна ChatGPT, практику обучения моделей ИИ, маркетинговые усилия OpenAI, обработку личной информации пользователей, контекст жалоб пользователей и то, как компании оценивают восприятие людьми точности и надежности чат-ботов. FTC попросила OpenAI поделиться соответствующими внутренними материалами.
Движение FTC имеет ранние признаки. В мае этого года FTC выпустила предупреждение о том, что внимательно следит за тем, как компании решают использовать технологии искусственного интеллекта, в том числе новые генеративные инструменты искусственного интеллекта, чтобы оказать реальное и значительное влияние на потребителей.
Лина Хан, которая в четверг давала показания перед Судебным комитетом Палаты представителей США, столкнулась с резкой критикой со стороны республиканских законодателей за ее жесткую позицию в области правоприменения. Отвечая на вопрос о расследовании OpenAI, Хан отказался от комментариев, но сказал:
**Более широкие опасения FTC включают в себя то, что ChatGPT и другие сервисы ИИ обучаются на огромных объемах данных без проверки того, какие данные используются этими компаниями. Мы слышали сообщения о утечке конфиденциальной информации людей в ответ на запросы от других. Мы слышим, что происходят клеветнические заявления и совершенно не соответствующие действительности вещи. Это вид мошенничества, о котором мы беспокоимся. **
По мере того как пожар распространяется по всему миру, продукты генеративного искусственного интеллекта все больше привлекают внимание регулирующих органов по всему миру. В мае администрация Байдена стремилась разработать национальную стратегию искусственного интеллекта для защиты от дезинформации и других потенциальных недостатков технологии. В марте этого года итальянские регуляторы однажды запретили ChatGPT, а заодно проверили сбор личной информации компанией. Через несколько недель ChatGPT вернулся в сеть в Италии после того, как OpenAI сделала свою политику конфиденциальности более доступной и развернула инструмент для проверки возраста пользователей.
Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Регулирующие органы США впервые официально расследуют ChatGPT! FTC «обстреливает» OpenAI
Автор: Хэ Хао
** Новости СМИ в четверг показали, что Федеральная торговая комиссия США (FTC) расследует OpenAI. FTC направила OpenAI письмо с запросом о проведении гражданского расследования.В центре внимания расследования находится вопрос о том, причинил ли чат-робот OpenAI ChatGPT ущерб соответствующим лицам из-за публикации ложной информации, и как OpenAI справляется с соответствующими рисками. **
** Расследование FTC знаменует собой первый случай, когда регулирующие органы США официально начали проверку рисков, связанных с чат-ботами с искусственным интеллектом. ** Федеральная торговая комиссия, возглавляемая Линой Хан, обладает широкими полномочиями по борьбе с недобросовестной и вводящей в заблуждение деловой практикой. ** Расследование FTC означает, что ChatGPT, в настоящее время самое популярное приложение в мире, сталкивается с потенциальными юридическими угрозами. **
FTC написала в письме:
Нынешние законодатели особенно обеспокоены риском появления так называемых дипфейковых видеороликов, в которых ложно изображены реальные люди, совершающие смущающие действия или говорящие смущающие вещи.
Однако соответствующие инсайдеры отрасли считают, что FTC слишком широк. СМИ цитируют Адама Ковачевича, генерального директора Палаты прогресса, группы по торговле технологиями, который сказал: «Когда ChatGPT говорит неправильные вещи о ком-то и может нанести ущерб его репутации, входит ли этот вопрос в юрисдикцию Федеральной торговой комиссии? Не думаю, что это вообще ясно.Такого рода вещи больше относятся к сфере речи, к сфере регулирования речи, что выходит за рамки компетенции Федеральной торговой комиссии».
FTC также задала в письме конкретные вопросы о методах защиты данных и конфиденциальности OpenAI, чтобы выяснить, не прибегает ли он к недобросовестным или вводящим в заблуждение методам. FTC сослалась на инцидент в 2020 году, когда OpenAI обнаружил ошибку, которая позволяла пользователям видеть чаты других людей и некоторую информацию, связанную с платежами.
В целом письмо FTC вызвало десятки вопросов. Другие темы включают в себя: технические детали дизайна ChatGPT, практику обучения моделей ИИ, маркетинговые усилия OpenAI, обработку личной информации пользователей, контекст жалоб пользователей и то, как компании оценивают восприятие людьми точности и надежности чат-ботов. FTC попросила OpenAI поделиться соответствующими внутренними материалами.
Движение FTC имеет ранние признаки. В мае этого года FTC выпустила предупреждение о том, что внимательно следит за тем, как компании решают использовать технологии искусственного интеллекта, в том числе новые генеративные инструменты искусственного интеллекта, чтобы оказать реальное и значительное влияние на потребителей.
Лина Хан, которая в четверг давала показания перед Судебным комитетом Палаты представителей США, столкнулась с резкой критикой со стороны республиканских законодателей за ее жесткую позицию в области правоприменения. Отвечая на вопрос о расследовании OpenAI, Хан отказался от комментариев, но сказал:
По мере того как пожар распространяется по всему миру, продукты генеративного искусственного интеллекта все больше привлекают внимание регулирующих органов по всему миру. В мае администрация Байдена стремилась разработать национальную стратегию искусственного интеллекта для защиты от дезинформации и других потенциальных недостатков технологии. В марте этого года итальянские регуляторы однажды запретили ChatGPT, а заодно проверили сбор личной информации компанией. Через несколько недель ChatGPT вернулся в сеть в Италии после того, как OpenAI сделала свою политику конфиденциальности более доступной и развернула инструмент для проверки возраста пользователей.