Autor: Chris Dixon, fundador de a16z crypto; Elizabeth Harkavy, socia de a16z crypto; Traducción: 金色财经xiaozou
Los sistemas modernos de inteligencia artificial no solo dependen de la potencia de cálculo y los algoritmos, sino que también necesitan la retroalimentación humana. Las empresas utilizan técnicas de optimización post-entrenamiento como el aprendizaje reforzado con retroalimentación humana (RLHF) y la optimización de preferencias directas (DPO) para mejorar los modelos. Estas técnicas pueden reducir sesgos y hacer que los modelos respondan a las indicaciones de manera más coherente y de mayor calidad, lo cual es crucial para acelerar el desarrollo de la IA. La evaluación del modelo también es clave, pero solo definiendo primero qué significa "mejor", se puede lograr la optimización del modelo.
El desafío surge de aquí: las empresas no quieren compartir, consideran que sus datos y procesos de entrenamiento son secretos. Esto lleva a que la evaluación de los modelos de IA solo pueda depender de la información limitada de sistemas cerrados o de pruebas de referencia estáticas que están desconectadas de aplicaciones del mundo real, restringiendo gravemente el espacio para la mejora de los modelos. Los usuarios también se encuentran en una zona ciega de información, sin saber cómo su retroalimentación afecta al modelo, e incluso sin poder confirmar si su retroalimentación ha sido adoptada. Algunas clasificaciones de modelos y plataformas de crowdsourcing intentan mejorar la transparencia, pero a menudo no apoyan a los usuarios para rastrear sus propias contribuciones ni ofrecen un retorno sustancial por su participación. Aquellas plataformas que afirman ser justas y transparentes, a menudo dependen de la integridad en lugar de estándares ejecutables.
Creemos que la tecnología de criptomonedas puede proporcionar transparencia y propiedad en esta zona gris de la IA. La blockchain no solo ayuda a los contribuyentes a obtener recompensas de manera conveniente, sino que también ofrece a los desarrolladores de IA una garantía confiable sobre la calidad y el origen de los datos de retroalimentación. Los usuarios reciben incentivos, los desarrolladores obtienen datos confiables, y todos pueden realizar auditorías bidireccionales en este mercado abierto. Para ello, lideramos la ronda semilla de 33 millones de dólares de Yupp, un producto de consumo que permite a todos explorar y comparar de forma gratuita los últimos modelos de IA.
Yupp utiliza un modelo de crowdsourcing para la evaluación de modelos: los usuarios ingresan palabras clave, ven en paralelo múltiples respuestas generadas por AI y luego eligen la mejor respuesta. Su elección genera datos de preferencias "paquete de datos" con firma digital, que son de gran valor para la optimización y evaluación después del entrenamiento de AI. Los usuarios no solo pueden usar los modelos más recientes de forma gratuita, sino que también pueden recibir recompensas según la retroalimentación proporcionada.
El diseño de Yupp transforma el juicio humano en un recurso económico renovable. A medida que se generan nuevos datos de interacción, los datos antiguos "caducan", creando un volante natural: más adopción trae evaluaciones más frescas; evaluaciones más frescas generan modelos de mayor calidad; modelos de mayor calidad atraen más usuarios. Todos los participantes, ya sean usuarios comunes o desarrolladores de modelos de IA, pueden unirse y ver reglas transparentes aplicables a todos, asegurando que el mercado mantenga una neutralidad confiable. Nadie puede ocultar puntuaciones, y nadie puede manipular recompensas o resultados.
El equipo fundador cuenta con una profunda experiencia en los campos de la inteligencia artificial y las criptomonedas. Anteriormente, desarrollaron conjuntamente productos de aprendizaje automático orientados al consumidor en las primeras etapas de Twitter. Pankaj Gupta fue el responsable de ingeniería de consumo global en Google Pay y Coinbase, mientras que Gilad Mishne fue el responsable de aprendizaje automático en GoogleX. El equipo de inicio reúne a ingenieros senior de Google, Coinbase y laboratorios de primera categoría.
La IA necesita un sistema de evaluación robusto y confiable basado en una gran cantidad de entradas humanas, y la tecnología blockchain es la máquina de confianza que hace posible este objetivo. Al permitir que usuarios de todo el mundo contribuyan con comentarios para mejorar los modelos, Yupp se compromete a convertirse en la capa de evaluación fundamental para la IA del futuro. Nos sentimos honrados de apoyar a Yupp y esperamos ayudarles a construir un ciclo de retroalimentación en la cadena, asegurando que los resultados de la innovación en IA sean compartidos por todos los constructores.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
a16z: Por qué invertimos en Yupp
Autor: Chris Dixon, fundador de a16z crypto; Elizabeth Harkavy, socia de a16z crypto; Traducción: 金色财经xiaozou
Los sistemas modernos de inteligencia artificial no solo dependen de la potencia de cálculo y los algoritmos, sino que también necesitan la retroalimentación humana. Las empresas utilizan técnicas de optimización post-entrenamiento como el aprendizaje reforzado con retroalimentación humana (RLHF) y la optimización de preferencias directas (DPO) para mejorar los modelos. Estas técnicas pueden reducir sesgos y hacer que los modelos respondan a las indicaciones de manera más coherente y de mayor calidad, lo cual es crucial para acelerar el desarrollo de la IA. La evaluación del modelo también es clave, pero solo definiendo primero qué significa "mejor", se puede lograr la optimización del modelo.
El desafío surge de aquí: las empresas no quieren compartir, consideran que sus datos y procesos de entrenamiento son secretos. Esto lleva a que la evaluación de los modelos de IA solo pueda depender de la información limitada de sistemas cerrados o de pruebas de referencia estáticas que están desconectadas de aplicaciones del mundo real, restringiendo gravemente el espacio para la mejora de los modelos. Los usuarios también se encuentran en una zona ciega de información, sin saber cómo su retroalimentación afecta al modelo, e incluso sin poder confirmar si su retroalimentación ha sido adoptada. Algunas clasificaciones de modelos y plataformas de crowdsourcing intentan mejorar la transparencia, pero a menudo no apoyan a los usuarios para rastrear sus propias contribuciones ni ofrecen un retorno sustancial por su participación. Aquellas plataformas que afirman ser justas y transparentes, a menudo dependen de la integridad en lugar de estándares ejecutables.
Creemos que la tecnología de criptomonedas puede proporcionar transparencia y propiedad en esta zona gris de la IA. La blockchain no solo ayuda a los contribuyentes a obtener recompensas de manera conveniente, sino que también ofrece a los desarrolladores de IA una garantía confiable sobre la calidad y el origen de los datos de retroalimentación. Los usuarios reciben incentivos, los desarrolladores obtienen datos confiables, y todos pueden realizar auditorías bidireccionales en este mercado abierto. Para ello, lideramos la ronda semilla de 33 millones de dólares de Yupp, un producto de consumo que permite a todos explorar y comparar de forma gratuita los últimos modelos de IA.
Yupp utiliza un modelo de crowdsourcing para la evaluación de modelos: los usuarios ingresan palabras clave, ven en paralelo múltiples respuestas generadas por AI y luego eligen la mejor respuesta. Su elección genera datos de preferencias "paquete de datos" con firma digital, que son de gran valor para la optimización y evaluación después del entrenamiento de AI. Los usuarios no solo pueden usar los modelos más recientes de forma gratuita, sino que también pueden recibir recompensas según la retroalimentación proporcionada.
El diseño de Yupp transforma el juicio humano en un recurso económico renovable. A medida que se generan nuevos datos de interacción, los datos antiguos "caducan", creando un volante natural: más adopción trae evaluaciones más frescas; evaluaciones más frescas generan modelos de mayor calidad; modelos de mayor calidad atraen más usuarios. Todos los participantes, ya sean usuarios comunes o desarrolladores de modelos de IA, pueden unirse y ver reglas transparentes aplicables a todos, asegurando que el mercado mantenga una neutralidad confiable. Nadie puede ocultar puntuaciones, y nadie puede manipular recompensas o resultados.
El equipo fundador cuenta con una profunda experiencia en los campos de la inteligencia artificial y las criptomonedas. Anteriormente, desarrollaron conjuntamente productos de aprendizaje automático orientados al consumidor en las primeras etapas de Twitter. Pankaj Gupta fue el responsable de ingeniería de consumo global en Google Pay y Coinbase, mientras que Gilad Mishne fue el responsable de aprendizaje automático en GoogleX. El equipo de inicio reúne a ingenieros senior de Google, Coinbase y laboratorios de primera categoría.
La IA necesita un sistema de evaluación robusto y confiable basado en una gran cantidad de entradas humanas, y la tecnología blockchain es la máquina de confianza que hace posible este objetivo. Al permitir que usuarios de todo el mundo contribuyan con comentarios para mejorar los modelos, Yupp se compromete a convertirse en la capa de evaluación fundamental para la IA del futuro. Nos sentimos honrados de apoyar a Yupp y esperamos ayudarles a construir un ciclo de retroalimentación en la cadena, asegurando que los resultados de la innovación en IA sean compartidos por todos los constructores.