30 октября по вашингтонскому времени на официальном сайте Белого дома был опубликован указ президента Байдена о разработке безопасного, надежного и заслуживающего доверия ИИ (искусственного интеллекта).
В Белом доме заявили, что указ устанавливает новые стандарты безопасности и защиты ИИ, защищает конфиденциальность данных пользователей, способствует справедливости и гражданским правам, защищает интересы потребителей и работников, способствует технологическим инновациям и конкуренции и многое другое.
Указ также опирается на предыдущие «Обязательства по безопасности генеративного ИИ», подписанные с 15 компаниями для содействия разработке безопасного, здорового и надежного генеративного ИИ по всем направлениям.
Издание этого указа сыграло решающую роль в продвижении и защите разработки продуктов генеративного ИИ, таких как ChatGPT, такими технологическими гигантами, как Microsoft, OpenAI, Google, Meta, Amazon и Anthropic.
Первоначальный адрес:
Ниже приведены некоторые положения Указа
Новый стандарт безопасности ИИ
По мере того, как расширяются возможности ИИ, растет и его влияние на безопасность американцев. Этим указом президент Байден предписывает самые широкие действия, когда-либо предпринятые для защиты американцев от потенциальных рисков, связанных с системами ИИ:
Разработчики самых мощных систем искусственного интеллекта обязаны делиться результатами своих тестов безопасности и другой важной информацией с правительством США. В соответствии с Законом об оборонном производстве, приказ потребует от компаний, которые разрабатывают любую базовую модель, представляющую серьезный риск для национальной безопасности, национальной экономической безопасности или общественного здоровья и безопасности, уведомлять федеральное правительство при обучении модели и делиться результатами всех тестов безопасности «красной команды». Эти меры гарантируют, что системы ИИ будут безопасными, надежными и заслуживающими доверия до тех пор, пока они не будут опубликованы компанией.
Разработка стандартов, инструментов и тестов для обеспечения безопасности, надежности и надежности систем ИИ. Национальный институт стандартов и технологий (National Institute of Standards and Technology) разработает строгие стандарты для широкого спектра испытаний «красной команды», чтобы обеспечить безопасность перед публичным выпуском. Министерство внутренней безопасности применит эти стандарты к критически важным секторам инфраструктуры и создаст Совет по безопасности и защите ИИ.
Министерство энергетики и Министерство внутренней безопасности также займутся угрозой систем искусственного интеллекта для критически важной инфраструктуры, а также химическими, биологическими, радиологическими, ядерными рисками и рисками кибербезопасности. В целом, это самые важные действия, которые любое правительство предпринимает для повышения безопасности ИИ.
Защитите себя от риска, связанного с использованием искусственного интеллекта для разработки опасных биоматериалов, разработав строгие критерии отбора для нового биосинтеза. Учреждения, финансирующие проекты в области медико-биологических наук, будут обусловливать эти критерии федеральным финансированием, создавая сильные стимулы для обеспечения надлежащего скрининга и управления рисками, которые может усугубить ИИ.
Защитите американцев от мошенничества и обмана с помощью ИИ, установив стандарты и передовые методы аутентификации контента и нанесения водяных знаков.
Министерство торговли разработает рекомендации по аутентификации контента и нанесению водяных знаков для четкой маркировки контента, созданного искусственным интеллектом. Федеральные агентства будут использовать эти инструменты, чтобы американцам было легко узнать, что сообщения, которые они получают от правительства, являются подлинными, и подать пример частному сектору и правительствам по всему миру.
Создать передовую программу кибербезопасности для разработки инструментов ИИ для поиска и устранения уязвимостей в критически важном программном обеспечении, чтобы опираться на текущие проблемы кибербезопасности ИИ, стоящие перед администрацией Байдена-Харрис. В целом, эти усилия будут использовать потенциальные кибервозможности ИИ, чтобы сделать программное обеспечение и сети более безопасными.
Поручает Совету национальной безопасности и Канцелярии главы аппарата Белого дома разработать меморандум о национальной безопасности по ИИ и безопасности. Документ обеспечит безопасное, этичное и эффективное использование ИИ американскими военными и разведкой в миссиях и будет направлять операции по противодействию использованию противником военного ИИ.
Защита неприкосновенности частной жизни американцев
Без гарантий ИИ может еще больше угрожать неприкосновенности частной жизни американцев. ИИ не только упрощает извлечение, идентификацию и использование персональных данных, но и усиливает стимулы для этого, поскольку компании используют данные для обучения систем ИИ.
Чтобы лучше защитить неприкосновенность частной жизни американцев, в том числе риски, связанные с искусственным интеллектом, президент призвал Конгресс принять двухпартийное законодательство о конфиденциальности данных для защиты всех американцев, особенно детей, и распорядился принять следующие меры:
Защищать неприкосновенность частной жизни американцев, уделяя первоочередное внимание поддержке ускорения разработки и использования технологий, сохраняющих конфиденциальность, включая передовые технологии, которые позволяют системам ИИ обучаться, защищая при этом конфиденциальность обучающих данных.
Финансируя координационную сеть исследований для развития исследований и технологий, сохраняющих конфиденциальность, таких как инструменты шифрования для защиты частной жизни, сеть будет способствовать быстрым прорывам и разработкам. Национальный научный фонд также будет работать с сетью, чтобы способствовать внедрению передовых технологий, сохраняющих конфиденциальность, федеральными агентствами.
Путем оценки того, как ведомства собирают и используют коммерчески доступную информацию, в том числе от брокеров данных, и усиления руководящих принципов конфиденциальности федеральных агентств для учета рисков, связанных с ИИ. Эта работа будет сосредоточена, в частности, на коммерчески доступной информации, содержащей персональные данные.
Разработать методические рекомендации для федеральных ведомств по оценке эффективности технологий, сохраняющих конфиденциальность, в том числе используемых в системах ИИ. Эти руководящие принципы будут способствовать усилиям агентств по защите данных американцев.
Обеспечить ответственное использование ИИ государственными ведомствами
Искусственный интеллект может помочь правительствам добиться лучших результатов для американского народа. Возможности институтов по регулированию, управлению и предоставлению благ могут быть расширены, а расходы могут быть сокращены, а государственные системы могут быть улучшены.
Однако с использованием ИИ могут быть связаны и риски, такие как дискриминация и небезопасное принятие решений. Чтобы обеспечить ответственное внедрение ИИ государственными органами и модернизацию федеральной инфраструктуры ИИ, необходимо предпринять следующие действия:
Руководство для издателей по использованию ИИ, включая четкие критерии защиты прав и безопасности, улучшения закупок ИИ и расширения развертывания ИИ.
Помогите агентствам получить доступ к определенным продуктам и услугам ИИ быстрее, дешевле и эффективнее с помощью более быстрых и эффективных контрактов.
Ускорьте быстрый найм специалистов в области ИИ через Управление по управлению персоналом, Цифровые службы США, Цифровую команду США и Президентскую стипендию по инновациям для создания ударной волны талантов в области ИИ в масштабах всего правительства. Организация будет проводить обучение ИИ сотрудников всех уровней в смежных областях.
Защита интересов потребителей, пациентов и студентов
ИИ может принести ощутимые выгоды потребителям, например, делая продукты лучше, дешевле и доступнее. Но ИИ также повышает риск причинения вреда, введения в заблуждение или иного вреда американцам. Для того, чтобы ИИ приносил пользу американцам и защищал потребителей, президент поручил предпринять следующие действия:
Поощрение ответственного использования ИИ в здравоохранении и разработка доступных по цене жизненно важных лекарственных средств.
Министерство здравоохранения и социальных служб также создаст программу безопасности для получения сообщений о вреде или небезопасных медицинских практиках, вызванных искусственным интеллектом, и принятия мер по исправлению ситуации.
Формирование потенциала ИИ в образовании, например, путем создания персонализированных ресурсов для обучения в школах.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Белый дом издал президентский указ о поощрении развития ИИ безопасным и надежным способом
Первоисточник: AIGC Open Community
30 октября по вашингтонскому времени на официальном сайте Белого дома был опубликован указ президента Байдена о разработке безопасного, надежного и заслуживающего доверия ИИ (искусственного интеллекта).
В Белом доме заявили, что указ устанавливает новые стандарты безопасности и защиты ИИ, защищает конфиденциальность данных пользователей, способствует справедливости и гражданским правам, защищает интересы потребителей и работников, способствует технологическим инновациям и конкуренции и многое другое.
Указ также опирается на предыдущие «Обязательства по безопасности генеративного ИИ», подписанные с 15 компаниями для содействия разработке безопасного, здорового и надежного генеративного ИИ по всем направлениям.
Издание этого указа сыграло решающую роль в продвижении и защите разработки продуктов генеративного ИИ, таких как ChatGPT, такими технологическими гигантами, как Microsoft, OpenAI, Google, Meta, Amazon и Anthropic.
Ниже приведены некоторые положения Указа
Новый стандарт безопасности ИИ
По мере того, как расширяются возможности ИИ, растет и его влияние на безопасность американцев. Этим указом президент Байден предписывает самые широкие действия, когда-либо предпринятые для защиты американцев от потенциальных рисков, связанных с системами ИИ:
Разработчики самых мощных систем искусственного интеллекта обязаны делиться результатами своих тестов безопасности и другой важной информацией с правительством США. В соответствии с Законом об оборонном производстве, приказ потребует от компаний, которые разрабатывают любую базовую модель, представляющую серьезный риск для национальной безопасности, национальной экономической безопасности или общественного здоровья и безопасности, уведомлять федеральное правительство при обучении модели и делиться результатами всех тестов безопасности «красной команды». Эти меры гарантируют, что системы ИИ будут безопасными, надежными и заслуживающими доверия до тех пор, пока они не будут опубликованы компанией.
Разработка стандартов, инструментов и тестов для обеспечения безопасности, надежности и надежности систем ИИ. Национальный институт стандартов и технологий (National Institute of Standards and Technology) разработает строгие стандарты для широкого спектра испытаний «красной команды», чтобы обеспечить безопасность перед публичным выпуском. Министерство внутренней безопасности применит эти стандарты к критически важным секторам инфраструктуры и создаст Совет по безопасности и защите ИИ.
Министерство энергетики и Министерство внутренней безопасности также займутся угрозой систем искусственного интеллекта для критически важной инфраструктуры, а также химическими, биологическими, радиологическими, ядерными рисками и рисками кибербезопасности. В целом, это самые важные действия, которые любое правительство предпринимает для повышения безопасности ИИ.
Защитите себя от риска, связанного с использованием искусственного интеллекта для разработки опасных биоматериалов, разработав строгие критерии отбора для нового биосинтеза. Учреждения, финансирующие проекты в области медико-биологических наук, будут обусловливать эти критерии федеральным финансированием, создавая сильные стимулы для обеспечения надлежащего скрининга и управления рисками, которые может усугубить ИИ.
Защитите американцев от мошенничества и обмана с помощью ИИ, установив стандарты и передовые методы аутентификации контента и нанесения водяных знаков.
Министерство торговли разработает рекомендации по аутентификации контента и нанесению водяных знаков для четкой маркировки контента, созданного искусственным интеллектом. Федеральные агентства будут использовать эти инструменты, чтобы американцам было легко узнать, что сообщения, которые они получают от правительства, являются подлинными, и подать пример частному сектору и правительствам по всему миру.
Создать передовую программу кибербезопасности для разработки инструментов ИИ для поиска и устранения уязвимостей в критически важном программном обеспечении, чтобы опираться на текущие проблемы кибербезопасности ИИ, стоящие перед администрацией Байдена-Харрис. В целом, эти усилия будут использовать потенциальные кибервозможности ИИ, чтобы сделать программное обеспечение и сети более безопасными.
Поручает Совету национальной безопасности и Канцелярии главы аппарата Белого дома разработать меморандум о национальной безопасности по ИИ и безопасности. Документ обеспечит безопасное, этичное и эффективное использование ИИ американскими военными и разведкой в миссиях и будет направлять операции по противодействию использованию противником военного ИИ.
Защита неприкосновенности частной жизни американцев
Без гарантий ИИ может еще больше угрожать неприкосновенности частной жизни американцев. ИИ не только упрощает извлечение, идентификацию и использование персональных данных, но и усиливает стимулы для этого, поскольку компании используют данные для обучения систем ИИ.
Чтобы лучше защитить неприкосновенность частной жизни американцев, в том числе риски, связанные с искусственным интеллектом, президент призвал Конгресс принять двухпартийное законодательство о конфиденциальности данных для защиты всех американцев, особенно детей, и распорядился принять следующие меры:
Защищать неприкосновенность частной жизни американцев, уделяя первоочередное внимание поддержке ускорения разработки и использования технологий, сохраняющих конфиденциальность, включая передовые технологии, которые позволяют системам ИИ обучаться, защищая при этом конфиденциальность обучающих данных.
Финансируя координационную сеть исследований для развития исследований и технологий, сохраняющих конфиденциальность, таких как инструменты шифрования для защиты частной жизни, сеть будет способствовать быстрым прорывам и разработкам. Национальный научный фонд также будет работать с сетью, чтобы способствовать внедрению передовых технологий, сохраняющих конфиденциальность, федеральными агентствами.
Путем оценки того, как ведомства собирают и используют коммерчески доступную информацию, в том числе от брокеров данных, и усиления руководящих принципов конфиденциальности федеральных агентств для учета рисков, связанных с ИИ. Эта работа будет сосредоточена, в частности, на коммерчески доступной информации, содержащей персональные данные.
Разработать методические рекомендации для федеральных ведомств по оценке эффективности технологий, сохраняющих конфиденциальность, в том числе используемых в системах ИИ. Эти руководящие принципы будут способствовать усилиям агентств по защите данных американцев.
Обеспечить ответственное использование ИИ государственными ведомствами
Искусственный интеллект может помочь правительствам добиться лучших результатов для американского народа. Возможности институтов по регулированию, управлению и предоставлению благ могут быть расширены, а расходы могут быть сокращены, а государственные системы могут быть улучшены.
Однако с использованием ИИ могут быть связаны и риски, такие как дискриминация и небезопасное принятие решений. Чтобы обеспечить ответственное внедрение ИИ государственными органами и модернизацию федеральной инфраструктуры ИИ, необходимо предпринять следующие действия:
Руководство для издателей по использованию ИИ, включая четкие критерии защиты прав и безопасности, улучшения закупок ИИ и расширения развертывания ИИ.
Помогите агентствам получить доступ к определенным продуктам и услугам ИИ быстрее, дешевле и эффективнее с помощью более быстрых и эффективных контрактов.
Ускорьте быстрый найм специалистов в области ИИ через Управление по управлению персоналом, Цифровые службы США, Цифровую команду США и Президентскую стипендию по инновациям для создания ударной волны талантов в области ИИ в масштабах всего правительства. Организация будет проводить обучение ИИ сотрудников всех уровней в смежных областях.
Защита интересов потребителей, пациентов и студентов
ИИ может принести ощутимые выгоды потребителям, например, делая продукты лучше, дешевле и доступнее. Но ИИ также повышает риск причинения вреда, введения в заблуждение или иного вреда американцам. Для того, чтобы ИИ приносил пользу американцам и защищал потребителей, президент поручил предпринять следующие действия:
Поощрение ответственного использования ИИ в здравоохранении и разработка доступных по цене жизненно важных лекарственных средств.
Министерство здравоохранения и социальных служб также создаст программу безопасности для получения сообщений о вреде или небезопасных медицинских практиках, вызванных искусственным интеллектом, и принятия мер по исправлению ситуации.
Формирование потенциала ИИ в образовании, например, путем создания персонализированных ресурсов для обучения в школах.