Desde la controversia de OpenAI, la posibilidad de gobernanza de DAO
Recientemente, una controversia interna en OpenAI ha suscitado una amplia discusión en la industria sobre los modelos de gobernanza de las empresas de inteligencia artificial. Muchos opinan que, si OpenAI adoptara un modelo de organización autónoma descentralizada (DAO) para su gestión, podría evitar esta crisis. Esta opinión tiene su justificación, pero no porque el modelo de gobernanza DAO tenga ventajas claras, sino porque la estructura de gobernanza actual de OpenAI presenta defectos significativos.
Como una organización sin fines de lucro dedicada al desarrollo de inteligencia artificial general segura (AGI) para el beneficio de toda la humanidad, OpenAI es similar en ciertos aspectos a las organizaciones DAO que crean bienes públicos. Sin embargo, esta controversia ha expuesto problemas graves en la claridad y razonabilidad de las reglas de gobernanza de OpenAI.
Por ejemplo, la junta de OpenAI, como el máximo órgano de decisión, ha reducido su número de miembros de 9 a 6, pero no ha podido reponerlos a tiempo. Si se reduce a 3, solo se necesitarían 2 votos para decidir sobre asuntos importantes de la empresa. Lo que es aún más preocupante es que decisiones clave, como el reemplazo del CEO Sam Altman, se toman en reuniones no públicas por parte de algunos directores, en lugar de ser discutidas y examinadas adecuadamente por toda la junta. Este enfoque claramente ignora las demandas de otros interesados y carece del proceso necesario de comunicación y negociación.
Para una institución que impacta el futuro de la humanidad, el mecanismo de gobernanza de OpenAI necesita ser mejorado. Es digno de un profundo debate diseñar una estructura de gestión más robusta, transparente e inclusiva para OpenAI, tomando como referencia la filosofía de gobernanza del DAO. Esto no solo requiere la introducción de más fuerzas de control, como representantes de los empleados, sino que también debe establecerse un mecanismo de toma de decisiones más efectivo.
Es importante destacar que el DAO y la AGI tienen objetivos similares en su búsqueda de autonomía. El DAO fue concebido originalmente para crear un sistema coherente a través del código, minimizando la intervención humana. Por otro lado, la AGI se define como un sistema altamente autónomo que supera a los humanos en la mayoría de los ámbitos económicos. Frente a este tipo de sistemas autónomos, necesitamos reflexionar profundamente sobre cómo encontrar un equilibrio entre la alineación de los valores internos y las restricciones externas.
Los últimos desarrollos en la controversia de OpenAI muestran que el 90% de los empleados han firmado expresando su disposición a renunciar para seguir a Sam Altman. Este fenómeno refleja una de las disputas centrales en el ámbito de DAO desde hace tiempo: ¿son más importantes las reglas del código o es más crucial el consenso de la comunidad?
A pesar de que las reglas y restricciones pueden formar muchos consensos, los verdaderos consensos grandiosos a menudo provienen de un sentido compartido de misión y valores culturales. Esta identificación profunda no solo se aplica a las relaciones entre personas, sino que también es igualmente importante en el campo de la IA. Cómo cultivar esta resonancia en los sistemas de IA será un gran desafío que enfrentará la gobernanza de la IA en el futuro.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
4
Republicar
Compartir
Comentar
0/400
FundingMartyr
· hace4h
Jugar es jugar, hacer ruido es hacer ruido, pero la centralización también necesita ser tratada.
La controversia de OpenAI provoca reflexión: ¿Puede la gobernanza de DAO mejorar el modelo de gestión de las empresas de IA?
Desde la controversia de OpenAI, la posibilidad de gobernanza de DAO
Recientemente, una controversia interna en OpenAI ha suscitado una amplia discusión en la industria sobre los modelos de gobernanza de las empresas de inteligencia artificial. Muchos opinan que, si OpenAI adoptara un modelo de organización autónoma descentralizada (DAO) para su gestión, podría evitar esta crisis. Esta opinión tiene su justificación, pero no porque el modelo de gobernanza DAO tenga ventajas claras, sino porque la estructura de gobernanza actual de OpenAI presenta defectos significativos.
Como una organización sin fines de lucro dedicada al desarrollo de inteligencia artificial general segura (AGI) para el beneficio de toda la humanidad, OpenAI es similar en ciertos aspectos a las organizaciones DAO que crean bienes públicos. Sin embargo, esta controversia ha expuesto problemas graves en la claridad y razonabilidad de las reglas de gobernanza de OpenAI.
Por ejemplo, la junta de OpenAI, como el máximo órgano de decisión, ha reducido su número de miembros de 9 a 6, pero no ha podido reponerlos a tiempo. Si se reduce a 3, solo se necesitarían 2 votos para decidir sobre asuntos importantes de la empresa. Lo que es aún más preocupante es que decisiones clave, como el reemplazo del CEO Sam Altman, se toman en reuniones no públicas por parte de algunos directores, en lugar de ser discutidas y examinadas adecuadamente por toda la junta. Este enfoque claramente ignora las demandas de otros interesados y carece del proceso necesario de comunicación y negociación.
Para una institución que impacta el futuro de la humanidad, el mecanismo de gobernanza de OpenAI necesita ser mejorado. Es digno de un profundo debate diseñar una estructura de gestión más robusta, transparente e inclusiva para OpenAI, tomando como referencia la filosofía de gobernanza del DAO. Esto no solo requiere la introducción de más fuerzas de control, como representantes de los empleados, sino que también debe establecerse un mecanismo de toma de decisiones más efectivo.
Es importante destacar que el DAO y la AGI tienen objetivos similares en su búsqueda de autonomía. El DAO fue concebido originalmente para crear un sistema coherente a través del código, minimizando la intervención humana. Por otro lado, la AGI se define como un sistema altamente autónomo que supera a los humanos en la mayoría de los ámbitos económicos. Frente a este tipo de sistemas autónomos, necesitamos reflexionar profundamente sobre cómo encontrar un equilibrio entre la alineación de los valores internos y las restricciones externas.
Los últimos desarrollos en la controversia de OpenAI muestran que el 90% de los empleados han firmado expresando su disposición a renunciar para seguir a Sam Altman. Este fenómeno refleja una de las disputas centrales en el ámbito de DAO desde hace tiempo: ¿son más importantes las reglas del código o es más crucial el consenso de la comunidad?
A pesar de que las reglas y restricciones pueden formar muchos consensos, los verdaderos consensos grandiosos a menudo provienen de un sentido compartido de misión y valores culturales. Esta identificación profunda no solo se aplica a las relaciones entre personas, sino que también es igualmente importante en el campo de la IA. Cómo cultivar esta resonancia en los sistemas de IA será un gran desafío que enfrentará la gobernanza de la IA en el futuro.