Джерело зображення: створено інструментом Unbounded AI
** Новини ЗМІ в четвер показали, що Федеральна торгова комісія США (FTC) розслідує OpenAI. Федеральна торгова комісія надіслала OpenAI лист із запитом на цивільне розслідування. У центрі розслідування – чи завдав чат-робот OpenAI ChatGPT шкоди відповідним особам через оприлюднення неправдивої інформації та як OpenAI обробляє пов’язані з цим ризики. **
** Розслідування FTC знаменує собою перший випадок, коли регуляторні органи США офіційно розпочали перевірку ризиків, пов’язаних із чат-ботами зі штучним інтелектом. **FTC, яку очолює Ліна Хан, має широкі повноваження контролювати нечесну та оманливу бізнес-практику. ** Розслідування FTC означає, що ChatGPT, наразі найпопулярніший додаток у світі, стикається з потенційними юридичними загрозами. **
FTC написала в листі:
Будь ласка, детально опишіть, якою мірою ви вжили заходів для усунення або пом’якшення ризику того, що ваш продукт великої мовної моделі може генерувати неправдиві, оманливі або наклепницькі твердження щодо реальних осіб.
Нинішні законодавці особливо стурбовані ризиком так званих глибоких фейкових відео, які неправдиво зображують реальних людей, які роблять незручні дії або говорять незручні речі.
Однак представники відповідної галузі вважають, що FTC є занадто широким. ЗМІ процитували Адама Ковацевича, генерального директора Chamber of Progress, торгової групи технологій, який сказав: «Коли ChatGPT говорить про когось неправильно і може завдати шкоди його репутації, це питання входить до юрисдикції FTC? Я не Не думаю, що це взагалі зрозуміло. Подібні речі більше належать до сфери мовлення, до сфери регулювання мовлення, яка виходить за межі компетенції FTC».
У листі FTC також поставила конкретні запитання щодо методів захисту даних і конфіденційності OpenAI, щоб з’ясувати, чи застосовує вона нечесні або оманливі методи. FTC згадала про інцидент у 2020 році, коли OpenAI виявив помилку, яка дозволяла користувачам бачити розмови інших людей у чаті та деяку інформацію, пов’язану з платежами.
Загалом лист FTC порушив десятки питань. Серед інших тем: технічні деталі дизайну ChatGPT, практика навчання моделей штучного інтелекту, маркетингові зусилля OpenAI, обробка особистої інформації користувачів, контекст скарг користувачів і те, як компанії оцінюють уявлення людей про точність і надійність чат-бота. FTC попросила OpenAI поділитися відповідними внутрішніми матеріалами.
Рух FTC має перші ознаки. У травні цього року FTC попередила, що вона уважно стежить за тим, як компанії вирішують використовувати технології штучного інтелекту, включаючи нові генеративні інструменти штучного інтелекту, щоб мати реальний і значний вплив на споживачів.
Ліна Хан, яка давала свідчення перед юридичним комітетом Палати представників США в четвер, зіткнулася з різкою критикою з боку республіканських законодавців за її жорстку позицію щодо забезпечення виконання. Відповідаючи на слухання про розслідування OpenAI, Хан відмовився від коментарів, але сказав:
**Ширше занепокоєння FTC полягає в тому, що ChatGPT та інші служби ШІ навчаються на величезних обсягах даних, не перевіряючи, які саме дані використовують ці компанії. Ми чули повідомлення про витік конфіденційної інформації людей у відповідь на запити інших. Ми чуємо, що трапляються наклепницькі заяви та абсолютно неправдиві речі. Це вид обману, який нас хвилює. **
Оскільки пожежа поширюється по всьому світу, продукти генеративного штучного інтелекту все більше стають центром уваги регуляторних органів у всьому світі. У травні адміністрація Байдена намагалася розробити національну стратегію ШІ для захисту від дезінформації та інших потенційних недоліків технології. У березні цього року італійські регулятори одного разу заборонили ChatGPT і одночасно перевірили збір особистої інформації компанії. ChatGPT повернувся в Інтернет через кілька тижнів в Італії після того, як OpenAI зробив свою політику конфіденційності більш доступною та випустив інструмент для перевірки віку користувачів.
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Регулятори США вперше офіційно розслідують ChatGPT! FTC «стріляє» по OpenAI
Автор: Хе Хао
** Новини ЗМІ в четвер показали, що Федеральна торгова комісія США (FTC) розслідує OpenAI. Федеральна торгова комісія надіслала OpenAI лист із запитом на цивільне розслідування. У центрі розслідування – чи завдав чат-робот OpenAI ChatGPT шкоди відповідним особам через оприлюднення неправдивої інформації та як OpenAI обробляє пов’язані з цим ризики. **
** Розслідування FTC знаменує собою перший випадок, коли регуляторні органи США офіційно розпочали перевірку ризиків, пов’язаних із чат-ботами зі штучним інтелектом. **FTC, яку очолює Ліна Хан, має широкі повноваження контролювати нечесну та оманливу бізнес-практику. ** Розслідування FTC означає, що ChatGPT, наразі найпопулярніший додаток у світі, стикається з потенційними юридичними загрозами. **
FTC написала в листі:
Нинішні законодавці особливо стурбовані ризиком так званих глибоких фейкових відео, які неправдиво зображують реальних людей, які роблять незручні дії або говорять незручні речі.
Однак представники відповідної галузі вважають, що FTC є занадто широким. ЗМІ процитували Адама Ковацевича, генерального директора Chamber of Progress, торгової групи технологій, який сказав: «Коли ChatGPT говорить про когось неправильно і може завдати шкоди його репутації, це питання входить до юрисдикції FTC? Я не Не думаю, що це взагалі зрозуміло. Подібні речі більше належать до сфери мовлення, до сфери регулювання мовлення, яка виходить за межі компетенції FTC».
У листі FTC також поставила конкретні запитання щодо методів захисту даних і конфіденційності OpenAI, щоб з’ясувати, чи застосовує вона нечесні або оманливі методи. FTC згадала про інцидент у 2020 році, коли OpenAI виявив помилку, яка дозволяла користувачам бачити розмови інших людей у чаті та деяку інформацію, пов’язану з платежами.
Загалом лист FTC порушив десятки питань. Серед інших тем: технічні деталі дизайну ChatGPT, практика навчання моделей штучного інтелекту, маркетингові зусилля OpenAI, обробка особистої інформації користувачів, контекст скарг користувачів і те, як компанії оцінюють уявлення людей про точність і надійність чат-бота. FTC попросила OpenAI поділитися відповідними внутрішніми матеріалами.
Рух FTC має перші ознаки. У травні цього року FTC попередила, що вона уважно стежить за тим, як компанії вирішують використовувати технології штучного інтелекту, включаючи нові генеративні інструменти штучного інтелекту, щоб мати реальний і значний вплив на споживачів.
Ліна Хан, яка давала свідчення перед юридичним комітетом Палати представників США в четвер, зіткнулася з різкою критикою з боку республіканських законодавців за її жорстку позицію щодо забезпечення виконання. Відповідаючи на слухання про розслідування OpenAI, Хан відмовився від коментарів, але сказав:
Оскільки пожежа поширюється по всьому світу, продукти генеративного штучного інтелекту все більше стають центром уваги регуляторних органів у всьому світі. У травні адміністрація Байдена намагалася розробити національну стратегію ШІ для захисту від дезінформації та інших потенційних недоліків технології. У березні цього року італійські регулятори одного разу заборонили ChatGPT і одночасно перевірили збір особистої інформації компанії. ChatGPT повернувся в Інтернет через кілька тижнів в Італії після того, як OpenAI зробив свою політику конфіденційності більш доступною та випустив інструмент для перевірки віку користувачів.