De la controverse d'OpenAI à la possibilité de la gouvernance DAO
Récemment, une tempête à l'intérieur d'OpenAI a suscité une large discussion dans l'industrie sur les modèles de gouvernance des entreprises d'intelligence artificielle. De nombreux points de vue estiment que si OpenAI était géré sous la forme d'une organisation autonome décentralisée (DAO), cela pourrait peut-être éviter cette crise. Ce point de vue a effectivement du sens, mais ce n'est pas parce que le modèle de gouvernance DAO présente des avantages évidents, mais plutôt parce que la structure de gouvernance actuelle d'OpenAI présente des défauts majeurs.
En tant qu'organisation à but non lucratif dédiée au développement de l'intelligence artificielle générale (AGI) sécurisée et au bénéfice de l'humanité entière, OpenAI présente certaines similitudes avec les organisations DAO qui créent des biens publics. Cependant, cette controverse a révélé de graves problèmes concernant la clarté et la rationalité des règles de gouvernance d'OpenAI.
Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe décisionnel suprême, a réduit ses membres de 9 à 6, sans pouvoir les remplacer à temps. Si le nombre continue de diminuer jusqu'à 3, alors seulement 2 personnes doivent donner leur accord pour décider des questions importantes de l'entreprise. Ce qui est encore plus inquiétant, c'est que des décisions clés, comme le remplacement du PDG Sam Altman, ont été prises par certains administrateurs lors de réunions non publiques, plutôt que d'être pleinement discutées et examinées par l'ensemble du conseil d'administration. Cette approche ignore clairement les revendications des autres parties prenantes et manque du processus de communication et de négociation nécessaire.
Pour une institution importante qui influence l'avenir de l'humanité, le mécanisme de gouvernance d'OpenAI doit être amélioré. Il vaut la peine d'explorer en profondeur la conception d'une structure de gestion plus robuste, transparente et inclusive pour OpenAI, en s'inspirant des principes de gouvernance des DAO. Cela nécessite non seulement d'introduire davantage de contre-pouvoirs, tels que des représentants des employés, mais aussi d'établir des mécanismes de décision plus efficaces.
Il est important de noter que les DAO et l'AGI ont des objectifs similaires en matière d'autonomie. Les DAO ont été initialement conçus pour créer un système cohérent par le biais de code, minimisant ainsi l'intervention humaine. L'AGI, quant à elle, est définie comme un système hautement autonome qui dépasse l'humain dans la plupart des domaines économiques. Face à de tels systèmes autonomes, nous devons réfléchir en profondeur à la manière de trouver un équilibre entre l'alignement des valeurs internes et les contraintes externes.
Les derniers développements du scandale OpenAI montrent que 90 % des employés ont signé pour indiquer qu'ils sont prêts à démissionner pour suivre Sam Altman. Ce phénomène fait écho à un débat central de longue date dans le domaine des DAO : est-il plus important de suivre les règles du code ou la consensus de la communauté ?
Bien que les règles et les contraintes puissent créer de nombreux consensus, le véritable grand consensus provient souvent d'un sens commun de la mission et de valeurs culturelles partagées. Cette identification profonde s'applique non seulement entre les personnes, mais est également importante dans le domaine de l'IA. Comment cultiver cette résonance dans les systèmes d'IA sera un défi majeur auquel la gouvernance de l'IA sera confrontée à l'avenir.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
4
Reposter
Partager
Commentaire
0/400
FundingMartyr
· Il y a 4h
Jouer c'est jouer, se battre c'est se battre, mais la centralisation doit être bien gérée.
La controverse autour d'OpenAI suscite une réflexion : la gouvernance des DAO peut-elle améliorer le modèle de gestion des entreprises d'IA
De la controverse d'OpenAI à la possibilité de la gouvernance DAO
Récemment, une tempête à l'intérieur d'OpenAI a suscité une large discussion dans l'industrie sur les modèles de gouvernance des entreprises d'intelligence artificielle. De nombreux points de vue estiment que si OpenAI était géré sous la forme d'une organisation autonome décentralisée (DAO), cela pourrait peut-être éviter cette crise. Ce point de vue a effectivement du sens, mais ce n'est pas parce que le modèle de gouvernance DAO présente des avantages évidents, mais plutôt parce que la structure de gouvernance actuelle d'OpenAI présente des défauts majeurs.
En tant qu'organisation à but non lucratif dédiée au développement de l'intelligence artificielle générale (AGI) sécurisée et au bénéfice de l'humanité entière, OpenAI présente certaines similitudes avec les organisations DAO qui créent des biens publics. Cependant, cette controverse a révélé de graves problèmes concernant la clarté et la rationalité des règles de gouvernance d'OpenAI.
Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe décisionnel suprême, a réduit ses membres de 9 à 6, sans pouvoir les remplacer à temps. Si le nombre continue de diminuer jusqu'à 3, alors seulement 2 personnes doivent donner leur accord pour décider des questions importantes de l'entreprise. Ce qui est encore plus inquiétant, c'est que des décisions clés, comme le remplacement du PDG Sam Altman, ont été prises par certains administrateurs lors de réunions non publiques, plutôt que d'être pleinement discutées et examinées par l'ensemble du conseil d'administration. Cette approche ignore clairement les revendications des autres parties prenantes et manque du processus de communication et de négociation nécessaire.
Pour une institution importante qui influence l'avenir de l'humanité, le mécanisme de gouvernance d'OpenAI doit être amélioré. Il vaut la peine d'explorer en profondeur la conception d'une structure de gestion plus robuste, transparente et inclusive pour OpenAI, en s'inspirant des principes de gouvernance des DAO. Cela nécessite non seulement d'introduire davantage de contre-pouvoirs, tels que des représentants des employés, mais aussi d'établir des mécanismes de décision plus efficaces.
Il est important de noter que les DAO et l'AGI ont des objectifs similaires en matière d'autonomie. Les DAO ont été initialement conçus pour créer un système cohérent par le biais de code, minimisant ainsi l'intervention humaine. L'AGI, quant à elle, est définie comme un système hautement autonome qui dépasse l'humain dans la plupart des domaines économiques. Face à de tels systèmes autonomes, nous devons réfléchir en profondeur à la manière de trouver un équilibre entre l'alignement des valeurs internes et les contraintes externes.
Les derniers développements du scandale OpenAI montrent que 90 % des employés ont signé pour indiquer qu'ils sont prêts à démissionner pour suivre Sam Altman. Ce phénomène fait écho à un débat central de longue date dans le domaine des DAO : est-il plus important de suivre les règles du code ou la consensus de la communauté ?
Bien que les règles et les contraintes puissent créer de nombreux consensus, le véritable grand consensus provient souvent d'un sens commun de la mission et de valeurs culturelles partagées. Cette identification profonde s'applique non seulement entre les personnes, mais est également importante dans le domaine de l'IA. Comment cultiver cette résonance dans les systèmes d'IA sera un défi majeur auquel la gouvernance de l'IA sera confrontée à l'avenir.