Manus alcançou avanços significativos nos testes de Referência GAIA
Recentemente, o Manus estabeleceu um novo recorde nos testes de Referência GAIA, superando o desempenho de modelos de linguagem de grande porte da mesma categoria. Esta conquista significa que o Manus possui a capacidade de lidar de forma independente com tarefas complexas, como negociações comerciais internacionais, que envolvem várias etapas, incluindo análise de contratos, planejamento estratégico e elaboração de propostas.
Em comparação com sistemas tradicionais, as principais vantagens do Manus residem em três aspectos: decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado reforçado. Ele consegue dividir tarefas grandes em centenas de subtarefas executáveis, ao mesmo tempo que processa diversos tipos de dados, e melhora continuamente sua eficiência de decisão através do aprendizado reforçado, reduzindo a probabilidade de erros.
O progresso do Manus levantou novamente discussões na indústria sobre o caminho de desenvolvimento da inteligência artificial: o futuro será um modelo unificado em direção à inteligência artificial geral (AGI) ou um modelo de colaboração de sistemas multiagentes (MAS)?
Esta questão envolve a filosofia de design do Manus, que sugere duas possíveis direções de desenvolvimento:
Caminho AGI: Aumentar continuamente a capacidade de um único sistema inteligente, aproximando-o gradualmente do nível de decisão abrangente dos humanos.
Caminho MAS: posicionar o Manus como coordenador supremo, dirigindo a colaboração de múltiplos agentes especializados.
Em superfície, trata-se de uma discussão sobre a rota técnica, mas reflete a contradição fundamental no desenvolvimento da IA: como equilibrar eficiência e segurança. À medida que os sistemas inteligentes individuais se aproximam cada vez mais da AGI, o risco da opacidade de seu processo decisório também aumenta; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder momentos críticos de decisão devido a atrasos na comunicação.
A evolução do Manus amplificou, sem querer, os riscos inerentes ao desenvolvimento da IA. Por exemplo, em cenários médicos, o Manus precisa acessar em tempo real os dados sensíveis dos pacientes; em negociações financeiras, pode envolver informações não divulgadas da empresa. Além disso, existe o problema do viés algorítmico, como dar propostas salariais injustas a determinados grupos durante o processo de recrutamento, ou uma taxa mais alta de erros de julgamento em cláusulas de indústrias emergentes durante a revisão de contratos legais. Outro risco que merece atenção é o ataque adversarial, onde hackers podem interferir no julgamento do Manus sobre as ofertas do oponente em negociações, inserindo sinais de áudio específicos.
Esses desafios destacam uma realidade severa: quanto mais avançados os sistemas inteligentes, maior é a sua superfície de ataque potencial.
No domínio do Web3, a segurança tem sido um tópico de grande preocupação. A partir do "triângulo impossível" proposto por Vitalik Buterin, fundador do Ethereum (as redes de blockchain têm dificuldade em alcançar segurança, descentralização e escalabilidade simultaneamente), surgiram várias tecnologias criptográficas:
Modelo de segurança de zero confiança: baseado no princípio "nunca confiar, sempre verificar", realiza uma verificação e autorização rigorosas para cada solicitação de acesso.
Identidade Descentralizada (DID): um padrão de identificação que não requer uma entidade registradora centralizada, proporcionando uma nova forma de gestão de identidade para o ecossistema Web3.
Criptografia Homomórfica Total (FHE): uma tecnologia avançada que permite realizar cálculos em dados no estado criptografado, especialmente adequada para cenários como computação em nuvem e terceirização de dados.
Entre essas tecnologias, a criptografia homomórfica total, como uma das formas de criptografia mais recentes, promete ser uma tecnologia chave para resolver problemas de segurança na era da IA. Ela permite realizar cálculos diretamente sobre dados criptografados, oferecendo novas possibilidades para a proteção da privacidade.
Para enfrentar os desafios de segurança trazidos pela IA, pode-se abordar a partir dos seguintes aspectos:
Nível de dados: garantir que todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) sejam processadas em estado criptografado, de modo que até mesmo o próprio sistema de IA não consiga decifrar os dados originais.
Nível de algoritmo: através do FHE, implementar "treinamento de modelos criptografados", de modo que mesmo os desenvolvedores não possam observar diretamente o processo de decisão da IA.
Nível de colaboração: na sistema multiagente, a utilização de criptografia por limiares garante que, mesmo que um único nó seja comprometido, não haverá vazamento de dados globais.
À medida que a tecnologia de IA se aproxima cada vez mais do nível de inteligência humana, precisamos de sistemas de defesa mais avançados. O FHE não só pode resolver os problemas de segurança atuais, mas também estabelece a base para a era da IA forte no futuro. No caminho para a AGI, o FHE já não é uma opção, mas sim uma condição necessária para garantir o desenvolvimento seguro da IA.
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Manus ultrapassa o teste de referência GAIA, o desafio de segurança da IA destaca o potencial da encriptação totalmente homomórfica.
Manus alcançou avanços significativos nos testes de Referência GAIA
Recentemente, o Manus estabeleceu um novo recorde nos testes de Referência GAIA, superando o desempenho de modelos de linguagem de grande porte da mesma categoria. Esta conquista significa que o Manus possui a capacidade de lidar de forma independente com tarefas complexas, como negociações comerciais internacionais, que envolvem várias etapas, incluindo análise de contratos, planejamento estratégico e elaboração de propostas.
Em comparação com sistemas tradicionais, as principais vantagens do Manus residem em três aspectos: decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado reforçado. Ele consegue dividir tarefas grandes em centenas de subtarefas executáveis, ao mesmo tempo que processa diversos tipos de dados, e melhora continuamente sua eficiência de decisão através do aprendizado reforçado, reduzindo a probabilidade de erros.
O progresso do Manus levantou novamente discussões na indústria sobre o caminho de desenvolvimento da inteligência artificial: o futuro será um modelo unificado em direção à inteligência artificial geral (AGI) ou um modelo de colaboração de sistemas multiagentes (MAS)?
Esta questão envolve a filosofia de design do Manus, que sugere duas possíveis direções de desenvolvimento:
Caminho AGI: Aumentar continuamente a capacidade de um único sistema inteligente, aproximando-o gradualmente do nível de decisão abrangente dos humanos.
Caminho MAS: posicionar o Manus como coordenador supremo, dirigindo a colaboração de múltiplos agentes especializados.
Em superfície, trata-se de uma discussão sobre a rota técnica, mas reflete a contradição fundamental no desenvolvimento da IA: como equilibrar eficiência e segurança. À medida que os sistemas inteligentes individuais se aproximam cada vez mais da AGI, o risco da opacidade de seu processo decisório também aumenta; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder momentos críticos de decisão devido a atrasos na comunicação.
A evolução do Manus amplificou, sem querer, os riscos inerentes ao desenvolvimento da IA. Por exemplo, em cenários médicos, o Manus precisa acessar em tempo real os dados sensíveis dos pacientes; em negociações financeiras, pode envolver informações não divulgadas da empresa. Além disso, existe o problema do viés algorítmico, como dar propostas salariais injustas a determinados grupos durante o processo de recrutamento, ou uma taxa mais alta de erros de julgamento em cláusulas de indústrias emergentes durante a revisão de contratos legais. Outro risco que merece atenção é o ataque adversarial, onde hackers podem interferir no julgamento do Manus sobre as ofertas do oponente em negociações, inserindo sinais de áudio específicos.
Esses desafios destacam uma realidade severa: quanto mais avançados os sistemas inteligentes, maior é a sua superfície de ataque potencial.
No domínio do Web3, a segurança tem sido um tópico de grande preocupação. A partir do "triângulo impossível" proposto por Vitalik Buterin, fundador do Ethereum (as redes de blockchain têm dificuldade em alcançar segurança, descentralização e escalabilidade simultaneamente), surgiram várias tecnologias criptográficas:
Modelo de segurança de zero confiança: baseado no princípio "nunca confiar, sempre verificar", realiza uma verificação e autorização rigorosas para cada solicitação de acesso.
Identidade Descentralizada (DID): um padrão de identificação que não requer uma entidade registradora centralizada, proporcionando uma nova forma de gestão de identidade para o ecossistema Web3.
Criptografia Homomórfica Total (FHE): uma tecnologia avançada que permite realizar cálculos em dados no estado criptografado, especialmente adequada para cenários como computação em nuvem e terceirização de dados.
Entre essas tecnologias, a criptografia homomórfica total, como uma das formas de criptografia mais recentes, promete ser uma tecnologia chave para resolver problemas de segurança na era da IA. Ela permite realizar cálculos diretamente sobre dados criptografados, oferecendo novas possibilidades para a proteção da privacidade.
Para enfrentar os desafios de segurança trazidos pela IA, pode-se abordar a partir dos seguintes aspectos:
Nível de dados: garantir que todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) sejam processadas em estado criptografado, de modo que até mesmo o próprio sistema de IA não consiga decifrar os dados originais.
Nível de algoritmo: através do FHE, implementar "treinamento de modelos criptografados", de modo que mesmo os desenvolvedores não possam observar diretamente o processo de decisão da IA.
Nível de colaboração: na sistema multiagente, a utilização de criptografia por limiares garante que, mesmo que um único nó seja comprometido, não haverá vazamento de dados globais.
À medida que a tecnologia de IA se aproxima cada vez mais do nível de inteligência humana, precisamos de sistemas de defesa mais avançados. O FHE não só pode resolver os problemas de segurança atuais, mas também estabelece a base para a era da IA forte no futuro. No caminho para a AGI, o FHE já não é uma opção, mas sim uma condição necessária para garantir o desenvolvimento seguro da IA.