Déplorez-vous toujours les changements révolutionnaires apportés par l'IA générative ? Déplorer la puissance du GPT-4 ? Vous ne savez toujours pas quelles nouvelles fonctionnalités GPT-5 aura ? OpenAI a vu plus loin, et est déjà en action.
Source de l'image : générée par l'IA illimitée
L'équipe OpenAI a publié hier son dernier mouvement, formant une nouvelle équipe, Superalignment, co-dirigée par Ilya Sutskever (co-fondateur d'OpenAI et scientifique en chef) et Jan Leike (responsable de l'alignement). Il s'agit d'une équipe sur la superintelligence, qui se concentre sur la recherche d'alignement de superintelligence. OpenAI affirme qu'elle consacrera 20 % de ses ressources informatiques à la résolution de problèmes d'alignement super-intelligents dans les quatre prochaines années, ce qui est suffisant pour montrer l'importance d'OpenAI.
Qu'est-ce que la superintelligence ?
La superintelligence fait référence à un système intelligent qui dépasse l'intelligence humaine. Ce n'est pas seulement un simple programme informatique, mais un corps intelligent, qui a les caractéristiques de la capacité cognitive, de la capacité émotionnelle, de la conscience de soi et de l'intention, et peut penser, juger et prendre des décisions de manière indépendante. -faire peut même dépasser l'intelligence humaine dans une certaine mesure. Le concept de superintelligence est relatif au système d'intelligence artificielle actuel, il fait référence à une intelligence artificielle plus avancée qui peut être appliquée dans un plus large éventail de domaines et d'environnements complexes.
Actuellement, la superintelligence est encore un concept théorique et n'a pas encore été réalisée. Atteindre la superintelligence nécessite de résoudre de nombreux problèmes techniques, notamment des défis liés à l'apprentissage automatique, au traitement du langage naturel, à la vision par ordinateur, au raisonnement et à la prise de décision. En outre, l'émergence de la superintelligence entraînera également de nombreux problèmes éthiques, sociaux et politiques, tels que le contrôle de la superintelligence, les problèmes de sécurité et de confidentialité.
La superintelligence est un concept passionnant et convaincant car il peut générer diverses applications importantes dans divers domaines, tels que le diagnostic médical, le développement de nouveaux médicaments, le transport intelligent, la production automatisée et la défense de la sécurité, etc. Dans le même temps, la superintelligence comporte également des risques et des défis. Si elle devient incontrôlable, elle peut constituer une menace énorme pour les êtres humains.
Atteindre la superintelligence nécessite de résoudre de nombreux problèmes techniques. L'une des questions les plus importantes est de savoir comment permettre aux systèmes intelligents d'avoir la capacité d'apprendre de manière indépendante, c'est-à-dire d'apprendre en permanence de nouvelles connaissances et compétences à partir des données et de l'expérience, afin d'améliorer continuellement leur niveau d'intelligence. Dans le même temps, la superintelligence doit également avoir de solides capacités de raisonnement, de prise de décision et d'innovation, et être capable de penser de manière indépendante et de résoudre divers problèmes complexes.
"Alors que nous approchons de la superintelligence", nous devons réfléchir davantage aux risques existentiels de l'IA. — Zuckerberg
La superintelligence sera-t-elle une réalité dans dix ans ? Au moins OpenAI le pense
OpenAI pense que la superintelligence sera la technologie la plus percutante jamais inventée, nous aidant à résoudre bon nombre des problèmes les plus importants au monde. Mais l'immense pouvoir d'une superintelligence peut aussi être très dangereux et pourrait conduire à la déresponsabilisation de l'humanité, voire à son extinction. Alors que ** la superintelligence peut sembler lointaine maintenant, nous pensons qu'elle pourrait l'être d'ici une décennie. **
###
Comment résoudre les risques de superintelligence ?
Bien que la superintelligence ait une énergie énorme, les risques sont également énormes. OpenAI a déclaré que la gestion de ces risques nécessitera de nouvelles institutions de gouvernance et résoudra le problème de la coordination de la superintelligence, à savoir, comment garantir que les systèmes d'intelligence artificielle sont beaucoup plus intelligents que les humains mais suivent également les intentions humaines ?
OpenAI n'a pas donné de réponse. Ils pensent que les humains ne peuvent pas superviser de manière fiable ces systèmes d'intelligence artificielle qui sont plus intelligents que les humains. La technologie d'alignement actuelle ne peut pas être étendue à la superintelligence. Par conséquent, de nouvelles percées scientifiques et technologiques doivent être recherchées.
Cependant, la voie d'OpenAI pour résoudre le problème de l'alignement de la superintelligence a été claire, c'est-à-dire établir un chercheur d'alignement automatique à peu près au niveau humain, pour améliorer la capacité des systèmes d'intelligence artificielle à apprendre de la rétroaction humaine et aider les humains à évaluer l'intelligence artificielle. L'objectif est de construire un système d'IA suffisamment aligné pour nous aider à résoudre tous les autres problèmes d'alignement.
L'année dernière, OpenAI a publié un article de blog qui clarifie sa ligne de recherche sur l'alignement :
Superalignement de la nouvelle équipe d'OpenAI
L'équipe sera une équipe de chercheurs et d'ingénieurs en apprentissage automatique de haut niveau, dans le but de résoudre les principaux défis techniques de l'alignement des superintelligences en quatre ans, du développement de nouvelles méthodes à la mise à l'échelle jusqu'au déploiement. Le scientifique en chef d'OpenAI, Ilya Sutskever, a fait du problème d'alignement des superintelligences un axe de recherche central. L'alignement de la superintelligence est fondamentalement un problème d'apprentissage automatique, et OpenAI recrute d'excellents experts en apprentissage automatique.
Les références:
Voir l'original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Dernières tendances d'OpenAI : formez une nouvelle équipe, misez sur la superintelligence et basculez de 20 % des ressources informatiques
Déplorez-vous toujours les changements révolutionnaires apportés par l'IA générative ? Déplorer la puissance du GPT-4 ? Vous ne savez toujours pas quelles nouvelles fonctionnalités GPT-5 aura ? OpenAI a vu plus loin, et est déjà en action.
L'équipe OpenAI a publié hier son dernier mouvement, formant une nouvelle équipe, Superalignment, co-dirigée par Ilya Sutskever (co-fondateur d'OpenAI et scientifique en chef) et Jan Leike (responsable de l'alignement). Il s'agit d'une équipe sur la superintelligence, qui se concentre sur la recherche d'alignement de superintelligence. OpenAI affirme qu'elle consacrera 20 % de ses ressources informatiques à la résolution de problèmes d'alignement super-intelligents dans les quatre prochaines années, ce qui est suffisant pour montrer l'importance d'OpenAI.
Qu'est-ce que la superintelligence ?
La superintelligence fait référence à un système intelligent qui dépasse l'intelligence humaine. Ce n'est pas seulement un simple programme informatique, mais un corps intelligent, qui a les caractéristiques de la capacité cognitive, de la capacité émotionnelle, de la conscience de soi et de l'intention, et peut penser, juger et prendre des décisions de manière indépendante. -faire peut même dépasser l'intelligence humaine dans une certaine mesure. Le concept de superintelligence est relatif au système d'intelligence artificielle actuel, il fait référence à une intelligence artificielle plus avancée qui peut être appliquée dans un plus large éventail de domaines et d'environnements complexes.
Actuellement, la superintelligence est encore un concept théorique et n'a pas encore été réalisée. Atteindre la superintelligence nécessite de résoudre de nombreux problèmes techniques, notamment des défis liés à l'apprentissage automatique, au traitement du langage naturel, à la vision par ordinateur, au raisonnement et à la prise de décision. En outre, l'émergence de la superintelligence entraînera également de nombreux problèmes éthiques, sociaux et politiques, tels que le contrôle de la superintelligence, les problèmes de sécurité et de confidentialité.
La superintelligence est un concept passionnant et convaincant car il peut générer diverses applications importantes dans divers domaines, tels que le diagnostic médical, le développement de nouveaux médicaments, le transport intelligent, la production automatisée et la défense de la sécurité, etc. Dans le même temps, la superintelligence comporte également des risques et des défis. Si elle devient incontrôlable, elle peut constituer une menace énorme pour les êtres humains.
Atteindre la superintelligence nécessite de résoudre de nombreux problèmes techniques. L'une des questions les plus importantes est de savoir comment permettre aux systèmes intelligents d'avoir la capacité d'apprendre de manière indépendante, c'est-à-dire d'apprendre en permanence de nouvelles connaissances et compétences à partir des données et de l'expérience, afin d'améliorer continuellement leur niveau d'intelligence. Dans le même temps, la superintelligence doit également avoir de solides capacités de raisonnement, de prise de décision et d'innovation, et être capable de penser de manière indépendante et de résoudre divers problèmes complexes.
La superintelligence sera-t-elle une réalité dans dix ans ? Au moins OpenAI le pense
OpenAI pense que la superintelligence sera la technologie la plus percutante jamais inventée, nous aidant à résoudre bon nombre des problèmes les plus importants au monde. Mais l'immense pouvoir d'une superintelligence peut aussi être très dangereux et pourrait conduire à la déresponsabilisation de l'humanité, voire à son extinction. Alors que ** la superintelligence peut sembler lointaine maintenant, nous pensons qu'elle pourrait l'être d'ici une décennie. **
Comment résoudre les risques de superintelligence ?
Bien que la superintelligence ait une énergie énorme, les risques sont également énormes. OpenAI a déclaré que la gestion de ces risques nécessitera de nouvelles institutions de gouvernance et résoudra le problème de la coordination de la superintelligence, à savoir, comment garantir que les systèmes d'intelligence artificielle sont beaucoup plus intelligents que les humains mais suivent également les intentions humaines ?
OpenAI n'a pas donné de réponse. Ils pensent que les humains ne peuvent pas superviser de manière fiable ces systèmes d'intelligence artificielle qui sont plus intelligents que les humains. La technologie d'alignement actuelle ne peut pas être étendue à la superintelligence. Par conséquent, de nouvelles percées scientifiques et technologiques doivent être recherchées.
Cependant, la voie d'OpenAI pour résoudre le problème de l'alignement de la superintelligence a été claire, c'est-à-dire établir un chercheur d'alignement automatique à peu près au niveau humain, pour améliorer la capacité des systèmes d'intelligence artificielle à apprendre de la rétroaction humaine et aider les humains à évaluer l'intelligence artificielle. L'objectif est de construire un système d'IA suffisamment aligné pour nous aider à résoudre tous les autres problèmes d'alignement.
L'année dernière, OpenAI a publié un article de blog qui clarifie sa ligne de recherche sur l'alignement :
Superalignement de la nouvelle équipe d'OpenAI
L'équipe sera une équipe de chercheurs et d'ingénieurs en apprentissage automatique de haut niveau, dans le but de résoudre les principaux défis techniques de l'alignement des superintelligences en quatre ans, du développement de nouvelles méthodes à la mise à l'échelle jusqu'au déploiement. Le scientifique en chef d'OpenAI, Ilya Sutskever, a fait du problème d'alignement des superintelligences un axe de recherche central. L'alignement de la superintelligence est fondamentalement un problème d'apprentissage automatique, et OpenAI recrute d'excellents experts en apprentissage automatique. Les références: