Новые вызовы безопасности с помощью искусственного интеллекта: полностью гомоморфное шифрование может стать ключом к защите таких продвинутых моделей, как Manus.
Безопасность с помощью искусственного интеллекта проблемы становятся все более очевидными с развитием модели Manus
Недавно модель Manus установила новый рекорд в бенчмарке GAIA, её производительность превосходит производительность крупных языковых моделей того же уровня. Это означает, что Manus может самостоятельно выполнять такие сложные задачи, как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимуществом Manus являются её динамическое разбиение целей, мультимодальное рассуждение и способность к обучению с усилением памяти. Она может разбивать сложные задачи на несколько исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прорывные достижения Manus снова вызвали обсуждение в отрасли о пути развития ИИ: будущее — это путь к общему искусственному интеллекту (AGI) или системы многоагентного взаимодействия (MAS)? Эти два пути отражают проблему компромисса между эффективностью и безопасностью в развитии ИИ. Путь AGI стремится к всестороннему повышению возможностей одного агента, тогда как путь MAS подчеркивает кооперацию нескольких специализированных агентов.
Однако, по мере того как системы ИИ становятся все более умными, их потенциальные риски также увеличиваются. Например, в медицинских сценариях ИИ может потребоваться доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть задействованы нераскрытые корпоративные финансовые данные. Кроме того, в системах ИИ могут присутствовать алгоритмические предвзятости, такие как несправедливые предложения по зарплате для определенных групп в процессе найма. Более серьезно, системы ИИ могут подвергаться атаке с помощью противодействия, например, путём вмешательства в суждения ИИ с помощью определенной частоты звука.
Столкнувшись с этими вызовами, отрасль исследует различные решения для обеспечения безопасности. Модель нулевого доверия требует строгой проверки каждого запроса на доступ, децентрализованная идентификация (DID) предлагает способ идентификации, не зависящий от централизованной регистрации, а полностью гомоморфное шифрование (FHE) позволяет выполнять вычисления данных в зашифрованном состоянии.
Полностью однородное шифрование как новая технология имеет потенциал стать ключевым инструментом для решения проблем безопасности в эпоху ИИ. Оно может защищать конфиденциальность пользователей на уровне данных, реализовывать "обучение зашифрованных моделей" на алгоритмическом уровне и использовать шифрование с порогом для защиты безопасности связи в совместной работе нескольких агентов.
Хотя технологии безопасности Web3 могут казаться далекими для обычных пользователей, они имеют решающее значение для защиты интересов пользователей. Ранние проекты децентрализованной идентификации, такие как uPort, и проекты нулевого доверия, такие как NKN, хотя и не получили широкой популярности, но новые проекты FHE, такие как Mind Network, работают с несколькими известными компаниями и могут способствовать применению и развитию этой технологии.
С учетом того, что технологии ИИ все ближе подходят к уровню человеческого интеллекта, создание мощной системы безопасности становится все более важным. Полное гомоморфное шифрование может не только решить текущие вызовы безопасности, но и заложить основу для более мощной эпохи ИИ в будущем. На пути к AGI FHE может стать ключевой технологией для обеспечения безопасного развития ИИ.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Новые вызовы безопасности с помощью искусственного интеллекта: полностью гомоморфное шифрование может стать ключом к защите таких продвинутых моделей, как Manus.
Безопасность с помощью искусственного интеллекта проблемы становятся все более очевидными с развитием модели Manus
Недавно модель Manus установила новый рекорд в бенчмарке GAIA, её производительность превосходит производительность крупных языковых моделей того же уровня. Это означает, что Manus может самостоятельно выполнять такие сложные задачи, как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимуществом Manus являются её динамическое разбиение целей, мультимодальное рассуждение и способность к обучению с усилением памяти. Она может разбивать сложные задачи на несколько исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прорывные достижения Manus снова вызвали обсуждение в отрасли о пути развития ИИ: будущее — это путь к общему искусственному интеллекту (AGI) или системы многоагентного взаимодействия (MAS)? Эти два пути отражают проблему компромисса между эффективностью и безопасностью в развитии ИИ. Путь AGI стремится к всестороннему повышению возможностей одного агента, тогда как путь MAS подчеркивает кооперацию нескольких специализированных агентов.
Однако, по мере того как системы ИИ становятся все более умными, их потенциальные риски также увеличиваются. Например, в медицинских сценариях ИИ может потребоваться доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть задействованы нераскрытые корпоративные финансовые данные. Кроме того, в системах ИИ могут присутствовать алгоритмические предвзятости, такие как несправедливые предложения по зарплате для определенных групп в процессе найма. Более серьезно, системы ИИ могут подвергаться атаке с помощью противодействия, например, путём вмешательства в суждения ИИ с помощью определенной частоты звука.
Столкнувшись с этими вызовами, отрасль исследует различные решения для обеспечения безопасности. Модель нулевого доверия требует строгой проверки каждого запроса на доступ, децентрализованная идентификация (DID) предлагает способ идентификации, не зависящий от централизованной регистрации, а полностью гомоморфное шифрование (FHE) позволяет выполнять вычисления данных в зашифрованном состоянии.
Полностью однородное шифрование как новая технология имеет потенциал стать ключевым инструментом для решения проблем безопасности в эпоху ИИ. Оно может защищать конфиденциальность пользователей на уровне данных, реализовывать "обучение зашифрованных моделей" на алгоритмическом уровне и использовать шифрование с порогом для защиты безопасности связи в совместной работе нескольких агентов.
Хотя технологии безопасности Web3 могут казаться далекими для обычных пользователей, они имеют решающее значение для защиты интересов пользователей. Ранние проекты децентрализованной идентификации, такие как uPort, и проекты нулевого доверия, такие как NKN, хотя и не получили широкой популярности, но новые проекты FHE, такие как Mind Network, работают с несколькими известными компаниями и могут способствовать применению и развитию этой технологии.
С учетом того, что технологии ИИ все ближе подходят к уровню человеческого интеллекта, создание мощной системы безопасности становится все более важным. Полное гомоморфное шифрование может не только решить текущие вызовы безопасности, но и заложить основу для более мощной эпохи ИИ в будущем. На пути к AGI FHE может стать ключевой технологией для обеспечения безопасного развития ИИ.