Manus ha logrado avances significativos en las pruebas de referencia de GAIA
Recientemente, Manus ha logrado resultados sorprendentes en las pruebas de rendimiento de GAIA, superando a otros modelos de lenguaje de gran tamaño en su categoría. Esto significa que Manus puede realizar de manera independiente tareas complejas como negociaciones comerciales internacionales, que implican la descomposición de cláusulas contractuales, la previsión de estrategias, la generación de propuestas e incluso coordinar equipos legales y financieros.
Las ventajas de Manus se reflejan principalmente en tres aspectos: la capacidad de descomponer objetivos dinámicos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Este avance ha reavivado la discusión en la industria sobre la trayectoria de evolución de la IA: ¿será el futuro dominado por la AGI o por sistemas multiagente (MAS) en colaboración?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta de AGI: A través de la mejora continua del nivel de inteligencia individual, acercándolo a la capacidad de toma de decisiones integral del ser humano.
Ruta MAS: como supercoordinador, dirigiendo miles de agentes inteligentes en campos verticales para operaciones conjuntas.
A simple vista, esto es una divergencia de diferentes caminos, pero en esencia se trata de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más se acerque la inteligencia unitaria a la AGI, mayor será el riesgo de que sus decisiones se conviertan en una caja negra; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, pero puede perder momentos clave de decisión debido a retrasos en la comunicación.
La evolución de Manus amplifica sin querer los riesgos inherentes al desarrollo de la IA, como la privacidad de los datos, el sesgo algorítmico y los ataques adversarios. En el ámbito médico, Manus necesita acceder en tiempo real a los datos genómicos de los pacientes; en las negociaciones financieras, puede involucrar información financiera no divulgada de las empresas. En las negociaciones de contratación, puede ofrecer recomendaciones salariales por debajo de lo adecuado para ciertos grupos; en la revisión de contratos legales, la tasa de error en la interpretación de cláusulas de industrias emergentes puede acercarse a la mitad. Además, los hackers pueden inducir frecuencias de voz específicas, lo que puede llevar a Manus a malinterpretar el rango de ofertas de los oponentes durante las negociaciones.
Estos problemas destacan un punto importante: cuanto más inteligente es el sistema, mayor es su superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. Basado en el "triángulo imposible" propuesto por Vitalik Buterin (las redes de blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad), han surgido múltiples métodos de encriptación:
Modelo de seguridad de cero confianza: la idea central es "no confiar en nadie, siempre verificar", enfatizando la necesidad de una estricta autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): un conjunto de estándares de identificadores que permite a las entidades obtener reconocimiento de manera verificable y persistente, sin necesidad de depender de un registro centralizado.
Cifrado homomórfico completo (FHE): una técnica de cifrado avanzada que permite realizar cálculos arbitrarios sobre datos cifrados sin necesidad de descifrarlos.
Entre ellos, FHE se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes niveles:
Capa de datos: toda la información ingresada por los usuarios (incluidas las características biométricas y el tono de voz) se procesa en un estado cifrado, ni siquiera el propio sistema de IA puede descifrar los datos originales.
Nivel algorítmico: lograr "entrenamiento de modelos encriptados" a través de FHE, incluso los desarrolladores no pueden espiar el camino de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, y la violación de un solo nodo no provocará la filtración de datos globales.
En el campo de la seguridad en Web3, ya hay varios proyectos explorando en diferentes direcciones. Sin embargo, los proyectos de seguridad a menudo no son de interés para los especuladores. En el futuro, con el continuo desarrollo de la tecnología AI, la importancia de tecnologías de seguridad como FHE será cada vez más evidente. En el camino hacia la AGI, estas tecnologías no solo son herramientas para resolver problemas actuales, sino que también son esenciales para la era del fuerte AI que se avecina.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
14 me gusta
Recompensa
14
5
Compartir
Comentar
0/400
DarkPoolWatcher
· 07-24 23:34
Otra empresa ha salido diciendo que es alcista.
Ver originalesResponder0
FrontRunFighter
· 07-24 23:31
el bosque oscuro sigue oscureciéndose... manus es solo otra arma en la carrera armamentista de extracción de MEV, para ser honesto
Ver originalesResponder0
DeFiGrayling
· 07-24 23:30
La comunidad siempre trae algo nuevo.
Ver originalesResponder0
GasFeePhobia
· 07-24 23:21
¡Vaya! Esto no puede ser una compra de pánico.
Ver originalesResponder0
OnChainDetective
· 07-24 23:17
En la madrugada, excavé en los datos del backend, la sospecha sobre esta arquitectura del sistema es del 99.97%.
Manus supera la prueba GAIA, lo que provoca un debate sobre la Seguridad de la IA y la tecnología FHE.
Manus ha logrado avances significativos en las pruebas de referencia de GAIA
Recientemente, Manus ha logrado resultados sorprendentes en las pruebas de rendimiento de GAIA, superando a otros modelos de lenguaje de gran tamaño en su categoría. Esto significa que Manus puede realizar de manera independiente tareas complejas como negociaciones comerciales internacionales, que implican la descomposición de cláusulas contractuales, la previsión de estrategias, la generación de propuestas e incluso coordinar equipos legales y financieros.
Las ventajas de Manus se reflejan principalmente en tres aspectos: la capacidad de descomponer objetivos dinámicos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Este avance ha reavivado la discusión en la industria sobre la trayectoria de evolución de la IA: ¿será el futuro dominado por la AGI o por sistemas multiagente (MAS) en colaboración?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta de AGI: A través de la mejora continua del nivel de inteligencia individual, acercándolo a la capacidad de toma de decisiones integral del ser humano.
Ruta MAS: como supercoordinador, dirigiendo miles de agentes inteligentes en campos verticales para operaciones conjuntas.
A simple vista, esto es una divergencia de diferentes caminos, pero en esencia se trata de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más se acerque la inteligencia unitaria a la AGI, mayor será el riesgo de que sus decisiones se conviertan en una caja negra; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, pero puede perder momentos clave de decisión debido a retrasos en la comunicación.
La evolución de Manus amplifica sin querer los riesgos inherentes al desarrollo de la IA, como la privacidad de los datos, el sesgo algorítmico y los ataques adversarios. En el ámbito médico, Manus necesita acceder en tiempo real a los datos genómicos de los pacientes; en las negociaciones financieras, puede involucrar información financiera no divulgada de las empresas. En las negociaciones de contratación, puede ofrecer recomendaciones salariales por debajo de lo adecuado para ciertos grupos; en la revisión de contratos legales, la tasa de error en la interpretación de cláusulas de industrias emergentes puede acercarse a la mitad. Además, los hackers pueden inducir frecuencias de voz específicas, lo que puede llevar a Manus a malinterpretar el rango de ofertas de los oponentes durante las negociaciones.
Estos problemas destacan un punto importante: cuanto más inteligente es el sistema, mayor es su superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. Basado en el "triángulo imposible" propuesto por Vitalik Buterin (las redes de blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad), han surgido múltiples métodos de encriptación:
Modelo de seguridad de cero confianza: la idea central es "no confiar en nadie, siempre verificar", enfatizando la necesidad de una estricta autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): un conjunto de estándares de identificadores que permite a las entidades obtener reconocimiento de manera verificable y persistente, sin necesidad de depender de un registro centralizado.
Cifrado homomórfico completo (FHE): una técnica de cifrado avanzada que permite realizar cálculos arbitrarios sobre datos cifrados sin necesidad de descifrarlos.
Entre ellos, FHE se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes niveles:
Capa de datos: toda la información ingresada por los usuarios (incluidas las características biométricas y el tono de voz) se procesa en un estado cifrado, ni siquiera el propio sistema de IA puede descifrar los datos originales.
Nivel algorítmico: lograr "entrenamiento de modelos encriptados" a través de FHE, incluso los desarrolladores no pueden espiar el camino de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, y la violación de un solo nodo no provocará la filtración de datos globales.
En el campo de la seguridad en Web3, ya hay varios proyectos explorando en diferentes direcciones. Sin embargo, los proyectos de seguridad a menudo no son de interés para los especuladores. En el futuro, con el continuo desarrollo de la tecnología AI, la importancia de tecnologías de seguridad como FHE será cada vez más evidente. En el camino hacia la AGI, estas tecnologías no solo son herramientas para resolver problemas actuales, sino que también son esenciales para la era del fuerte AI que se avecina.