Dialogue : Zhang Peng, Li Zhifei
Planification : Wei Shijie, Li Shiyun
Source de l'image : générée par l'IA illimitée
Il y a trente ans, alors qu'Internet n'en était qu'à ses balbutiements et que même les ordinateurs personnels étaient rares, un écrivain spécialisé dans la technologie a lancé sa propre frontière en parcourant tous les horizons de la vie à l'époque. S'adressant à certains des esprits les plus brillants du monde, il a entrevu une partie de l'avenir qui culminerait dans le tome Out of Control (1994). Jusqu'à plus de dix ans plus tard, lorsque l'ère de l'Internet mobile et des téléphones intelligents est arrivée, les gens ont été surpris de constater que les derniers concepts "interconnexion mondiale de l'information, systèmes distribués, monnaie numérique, cloud computing, etc." avaient été prédits depuis longtemps par ce livre.
L'écrivain technique est Kevin Kelly, également connu sous le nom de KK. Il est le fondateur du magazine "Wired", observateur technologique et "prophète". En 2010, la version chinoise de "Out of Control" a été lancée, et KK a également commencé une série de visites en Chine, et s'est progressivement familiarisé avec le peuple chinois.
Debout au nœud d'aujourd'hui, l'intelligence artificielle générale (IAG) est en train de germer, et une révolution des temps est sur le point de commencer, qui fait vaguement écho à la prophétie du livre "Out of Control". KK avait prédit à l'époque que les humains finiraient par s'unir aux machines, "les machines deviennent biologiques et les organismes sont en train d'être modifiés". Selon ses propres mots, "Out of Control" ne parle que d'une chose, c'est-à-dire comment construire un "système complexe" - les robots, l'intelligence artificielle (IA), etc. peuvent être considérés comme des systèmes complexes, et il pense que cette idée est toujours applicable aujourd'hui.
Il n'y a pas longtemps, nous avons eu une conversation avec KK avec Li Zhifei, le fondateur et PDG de la grande start-up de mannequins Going out to ask.
Le premier est du point de vue pratique de la technologie et des affaires, tandis que le second est du point de vue abstrait des êtres humains, de l'histoire et même de l'univers, discutant de la montée, de l'impact et de la menace de l'intelligence artificielle. C'est une discussion plutôt « science-fiction » et « imaginative », on essaie de « prédire » à nouveau l'avenir des humains et de l'intelligence artificielle.
Tous deux soutiennent que, pour la première fois dans l'histoire de l'humanité, l'intelligence artificielle d'aujourd'hui a pris des formes réalistes. Li Zhifei a déclaré que l'IA actuelle équivaut déjà au QI d'un enfant humain et possède de véritables capacités d'intelligence générale telles que la connaissance, la logique, le raisonnement et la planification. Et KK pense qu'en tant que "vie basée sur le silicium", l'IA sera aussi adaptable que les humains et pourra apprendre et grandir par elle-même.
De manière très similaire, ils adoptent tous deux l'optimisme technologique. KK pense que l'IA ne rendra pas les humains au chômage, elle ne fera que les rendre plus efficaces et les libérer des emplois « odieux ». L'IA semble creuser l'écart entre les riches et les pauvres, mais elle est plus susceptible d'atteindre l'équité et la justice en rendant le gâteau plus gros et meilleur comme chaque changement technologique dans l'histoire humaine. En termes d'impact sur les entreprises, cela autonomisera à la fois les particuliers, les petites et moyennes entreprises et les grandes entreprises.
Comme le nom du livre "Out of Control" l'indique - Kevin Kelly pense que pour mieux acquérir le pouvoir de l'IA, les humains devraient permettre à certaines parties de l'IA de "devenir incontrôlables". Après tout, ChatGPT est né dans un état "d'émergence" hors de contrôle pour les humains. Lui et Li Zhifei pensent tous deux que l'intelligence actuelle de l'IA est encore immature et que les humains devraient continuer à lâcher prise, au lieu de contrôler (superviser) prématurément et excessivement. Ce dernier peut étouffer l'innovation à ses débuts.
À plus long terme, si un jour l'IA devient vraiment une super forme de vie, comment les humains devraient-ils s'en accommoder ?
La science-fiction et les films dépeignent un avenir sombre qui se termine souvent par le réveil des IA pour tuer des humains. Mais Kevin Kelly pense qu'il s'agit d'une manifestation du manque d'imagination humaine. L'échec est toujours plus facile à imaginer que le succès, et c'est aussi tentant pour les histoires. En ce qui concerne l'avenir, il n'est pas difficile d'imaginer les avantages et la valeur de l'intelligence artificielle.
Sa suggestion est que l'IA peut être considérée comme un "extraterrestre artificiel", et que les êtres humains pourront utiliser la sagesse de l'IA pour résoudre leurs propres problèmes et atteindre un certain degré de "contrôle". Li Zhifei pense qu'en tant qu '«ancêtre» de l'IA, les humains finiront par fusionner avec l'IA au lieu de la contrôler.
Quant à savoir si cette prophétie sera vraie, cela dépend du monde après 5000 jours.
Voici le texte intégral de la conversation :
01 Même si OpenAI n'a pas créé ChatGPT, d'autres sociétés le feront bientôt
**Zhang Peng : Indépendamment de la Chine ou des États-Unis, les gens discutent de grands modèles récemment. Que pensez-vous de cette vague de changement technologique dans les gros modèles ? Vous sentirez-vous très choqué? **
Kevin Kelly : L'intelligence artificielle (IA) existe depuis des décennies. Un bond en avant majeur s'est produit lorsque les modèles d'IA ont commencé à utiliser les réseaux de neurones et l'apprentissage en profondeur, et ils sont devenus de plus en plus grands. Il y a environ 4 ou 5 ans, il a commencé à produire de très grands modèles de transformateurs (modèles d'apprentissage profond avec mécanisme d'auto-attention). Au cours des deux dernières années, il a commencé à s'interfacer avec de grands modèles de langage.
En fait, récemment, le grand changement de l'IA n'est pas sa capacité, et ses performances à cet égard ne sont pas bien meilleures. **Ce qui a vraiment changé dans l'IA ces derniers temps, c'est qu'elle nous permet d'avoir une interface utilisateur conversationnelle qui peut réellement communiquer avec l'IA en langage (naturel). Avant cela, les gens devaient acquérir de nombreuses connaissances en programmation et être très compétents pour utiliser l'IA. Mais maintenant, tout à coup, tout le monde utilise l'IA. C'est la partie vraiment excitante. **
Li Zhifei : Je suis d'accord avec ce que KK a dit, le principal changement dans le grand modèle de langage actuel est l'amélioration des capacités d'interaction en langage naturel. C'est en effet ce que beaucoup de gens ordinaires peuvent ressentir, et c'est précisément à cause de cela que ChatGPT a une si grande influence sociale aujourd'hui.
Mais je pense qu'il y a aussi beaucoup de variations dans les capacités des grands modèles aujourd'hui, et c'est cette variation qui rend possible leur interaction naturelle. Parce que derrière la réalisation de l'interaction naturelle, l'IA doit avoir de solides connaissances, une capacité de compréhension, une capacité linguistique, une capacité de raisonnement et de planification, etc. L'IA doit avoir une percée dans ces capacités de base afin de parvenir à une interaction en langage naturel.
Et je pense que la capacité des grands modèles à l'avenir ne sera pas seulement l'interaction en langage naturel. Des choses telles que l'écriture de programmes, les processus d'automatisation d'entreprise et l'automatisation des robots ne sont pas interactives, mais elles deviendront possibles à l'avenir.
**Zhang Peng : Je suis tout à fait d'accord sur le fait que la capacité de l'IA à mieux communiquer avec les humains entraînera un changement de paradigme dans la technologie et les affaires. Si ChatGPT est la deuxième courbe du développement de l'IA, son apparition est-elle inévitable ou accidentelle ? **
**Kevin Kelly :**ChatGPT est capable de dépasser toutes les attentes. ** Je ne pense pas que quiconque s'y attendait, y compris les personnes dans le domaine de l'IA. En fait, la plupart des chercheurs ne savent pas comment fonctionne ChatGPT, et ils essaient de l'améliorer, mais c'est difficile car ils ne savent pas comment cela fonctionne. Par conséquent, l'émergence de ChatGPT était un accident. **
Bien que ChatGPT soit très surprenant, nous voyons aussi ses limites. **Sa principale limitation est que le modèle a été formé sur un contenu moyen rédigé par un humain, il a donc tendance à produire des résultats moyens. Et ce que nous voulons souvent, ce n'est pas la moyenne, mais quelque chose au-dessus de la moyenne. **C'est difficile à faire.
Deuxièmement, ces modèles sont optimisés pour la plausibilité, pas pour la précision. Par conséquent, comment les rendre plus précis est un défi majeur auquel tout le monde est actuellement confronté.
Li Zhifei : Je pense que l'émergence de ChatGPT est accidentelle à court terme, mais inévitable à long terme. On peut dire que c'est par hasard qu'OpenAI a créé ChatGPT à la fin de l'année dernière, mais même s'il ne l'a pas fait, d'autres entreprises le feront bientôt. **
Cela s'est répété d'innombrables fois dans l'histoire de la technologie. Prenant l'apprentissage en profondeur comme exemple, AlexNet a été le premier à faire de l'annotation d'images en 2012, mais à cette époque, de nombreuses équipes avec de fortes convictions et des capacités d'ingénierie le faisaient également. Si AlexNet n'y parvenait pas, d'autres le feraient. De plus, Google a fabriqué un transformateur en 2017 pour résoudre les problèmes de faible scalabilité des modèles de séquence tels que RNN et LSTM. Si Google ne le faisait pas, d'autres équipes le feraient.
** Le contexte de la naissance de ChatGPT est que le transformateur est déjà très mature et que nous disposons d'une forte puissance de calcul pour former les données massives d'Internet. Tous les éléments nécessaires de ChatGPT sont déjà disponibles et sa naissance est inévitable. ** C'est juste qu'OpenAI l'a mieux assemblé à ce moment-là.
**Zhang Peng : En parlant d'inévitabilité et de contingence, j'ai pensé à un mot qui a été très populaire récemment, « émergence ». Ce mot est apparu au moins 88 fois dans « Out of Control » de KK, comment doit-on comprendre le sens de ce mot aujourd'hui ? **
Kevin Kelly : D'un point de vue anglo-saxon, « émergence » est un terme qui désigne le comportement d'un système, tout un tas de choses interconnectées, comme Internet, des robots, des corps, des écosystèmes, ou même des Le monde, dont le comportement n'est pas contenu dans le comportement d'une seule partie. Par exemple, une ruche peut se souvenir de choses au-delà de la durée de vie d'une seule abeille, de sorte que la ruche elle-même a un comportement, une capacité et un pouvoir que les parties individuelles n'ont pas. Nous appelons cela "l'émergence".
De même, une grande partie de l'IA générée est également "émergente". Parce qu'il n'y a pas un seul endroit dans le modèle qui explique d'où il vient, il faut que toutes les pièces travaillent ensemble pour produire cette nouvelle capacité. Tout comme il n'y a pas de "pensée" dans notre cerveau, la "pensée" "émerge" du neurone tout entier. ** Des choses telles que la réflexion, l'évolution et l'apprentissage peuvent toutes "émerger" du système.
**Li Zhifei :**Ma compréhension de "l'émergence" vient du livre "Complexity", qui parle de "plus c'est différent" et "plus c'est différent". Tout comme un vieux dicton chinois, "le changement quantitatif conduit au changement qualitatif". La première fois que le grand mannequin a parlé d'« émergence », c'est dans un article publié par Stanford et Google à la fin de l'année dernière. Ils ont découvert par des expériences qu'en augmentant la taille du grand modèle, lorsqu'un certain point critique était atteint, il "émergeait" soudainement dans une certaine capacité.
J'ai maintenant l'impression que le mot "émergence" est en fait galvaudé. Parce que nous ne pouvons pas expliquer d'où vient la capacité du grand modèle, nous l'appelons "émergence". Ce mot ne peut pas être expliqué ou manipulé, et il ne nous aide pas à former et à appliquer le grand modèle. Maintenant, tout le monde n'étudie plus "l'émergence", mais plus de recherche sur la relation quantitative entre la quantité de paramètres du grand modèle et la performance finale, ce qui peut nous être plus utile pour comprendre et contrôler le grand modèle.
**Zhang Peng : Pouvons-nous comprendre que « l'émergence » entraînera une « perte de contrôle » ? **
Kevin Kelly : Cette compréhension n'est pas tout à fait correcte. Bien sûr, il y aura des "parties hors de contrôle", si vous voulez pouvoir utiliser le pouvoir du comportement "d'émergence", vous devrez peut-être tolérer certaines choses hors de votre contrôle. Notre compréhension et notre contrôle de celui-ci ne sont peut-être pas assez bons dans l'IA en ce moment, mais c'est en fait nécessaire pour des résultats optimaux.
Mais en même temps, il ne faut pas que tout « devienne incontrôlable », il faut effectuer un certain « contrôle », c'est-à-dire guider et gérer l'intelligence artificielle. ** Encore une fois, nous ne voulons pas être trop restrictifs, mais un certain niveau de contrôle doit être atteint. Cependant, nous n'aurons probablement jamais un contrôle total sur eux**, en particulier avec des intelligences artificielles plus puissantes, nous ne comprendrons probablement jamais pleinement leur fonctionnement. C'est le compromis.
**Zhang Peng : Cela fait de nombreuses années que vous n'avez pas écrit le livre "Out of Control". À ce stade actuel, combiné à cette vague de révolution de l'IA, pensez-vous qu'il y a une partie de "Out of Control" qui vaut la peine recalibrage ? **
Kevin Kelly : Je ne pense pas avoir trop parlé d'intelligence artificielle et de hors de contrôle dans le livre "Out of Control", il parle en fait principalement de la façon de transformer des choses simples en choses complexes. Il y a quelque chose qui s'appelle l'architecture de sous-système de Rodney Brooks, qui mentionne que vous pouvez créer un robot complexe en y incorporant des éléments d'intelligence. Le processus qui mène à la complexité est que vous superposez des choses sur des choses qui fonctionnent déjà. (La théorie architecturale de Brooks propose que le comportement de niveau supérieur doit contenir le comportement de niveau inférieur).
**Comme un insecte, même si vous lui coupez la tête, il peut toujours marcher, car la fonction de marcher n'est plus que partiellement remplie. Tout comme notre cerveau a un noyau responsable de la respiration et d'autres fonctions autonomes, nous y ajoutons plus de couches de complexité. Cette idée est toujours valable aujourd'hui lorsque les gens fabriquent des robots et de l'intelligence artificielle et essaient de les rendre plus complexes. **C'est vraiment la seule chose dont je parle dans "Out of Control" et je pense que le point est toujours d'actualité.
**Zhang Peng : Je me souviens que vous aviez une perspective intéressante auparavant, c'est-à-dire "en supposant que la technologie est une sorte de vie", lorsqu'elle émergera avec une intelligence proche des êtres humains, que voudra-t-elle ensuite ? Comment cela affectera-t-il le monde des affaires et la société humaine ? **
**Kevin Kelly :**La technologie est ce que j'appelle le "septième royaume de la vie". Nous avons accéléré l'évolution de la vie vers un royaume "sec" qui n'a plus besoin d'un environnement "humide", mais qui peut exister dans le silicium. Nous pouvons utiliser notre esprit pour créer d'autres technologies réalistes. Ils sont adaptables et peuvent apprendre et grandir.
Ce que je veux dire, c'est que la technologie poursuit fondamentalement les mêmes choses que la vie. Par exemple, ils gagneraient en diversité au fur et à mesure de leur évolution, et ils deviendraient également plus spécialisés et spécifiques. Notre corps compte 52 types de cellules différents, dont les cellules cardiaques, les cellules osseuses et les cellules osseuses. Nous créerons également des IA spécialisées qui effectueront des tâches spécifiques telles que la traduction linguistique, la génération d'images et la conduite autonome. **De plus, la technologie deviendra plus complexe comme la vie, ce qui est évident.
En fin de compte, la technologie sera également "mutuellement bénéfique et symbiotique" comme la vie. La vie a évolué si complexe qu'elle n'est entrée en contact qu'avec d'autres formes de vie, jamais avec du matériel non vivant. Comme les bactéries dans votre intestin. Ils ne sont entourés que d'autres cellules vivantes. ** À l'avenir, certaines IA ne seront pas conçues pour les humains, mais seront conçues pour servir d'autres IA. Par exemple, il y aura des IA dédiées à la maintenance d'autres IA, des IA qui ne communiquent qu'avec d'autres IA. **
**Li Zhifei :**Je veux expliquer la relation entre l'IA et la vie du point de vue d'un ingénieur. Il y a quelques années, beaucoup de gens me demandaient toujours : "Quel âge a le QI d'Alphago (le premier programme informatique à vaincre le champion du monde de Go) ?" A cette époque, je n'aimais pas ce genre de question car je pouvais je n'y réponds pas. À cette époque, bien que l'IA puisse jouer au go et ait un QI élevé, elle ne pouvait pas mener de conversations en langage naturel comme un enfant de 3 ans. A cette époque, son mécanisme était fondamentalement différent de celui des êtres humains.
Mais ces jours-ci, j'aime particulièrement comparer l'IA à un enfant. Je pense que le cœur est parce que l'IA d'aujourd'hui possède déjà les véritables capacités d'intelligence générale que les enfants ont, telles que la connaissance, la logique, le raisonnement, la planification, etc. ** Je veux donc dire que l'IA d'aujourd'hui ressemble plus à un corps vivant. Il a le QI d'un enfant de 5 ans et les connaissances d'un professeur d'université ainsi que d'un nouveau-né, selon qu'il a vu ou non les données. **
Sur la base de cette compréhension, je pense que nous devons repenser ce que l'IA veut vraiment. Pour un enfant de 5 ans, il va d'abord s'auto-purifier, suivi de l'auto-réplication et de la collaboration. Je n'ai pas de bonne réponse à cette question moi-même.
02 Au cours des 5000 prochains jours, nous traverserons une période de transition étroite et urgente
**Zhang Peng : Lorsque les capacités de l'IA se développent rapidement, de nombreuses personnes ordinaires se sentent anxieuses et craignent de perdre leur compétitivité. KK a-t-il des idées et des suggestions à ce sujet ? **
**Kevin Kelly :**Même si la technologie de l'IA est en développement depuis 20 ans, les gens pensent qu'il s'agit d'un succès instantané et s'inquiètent de son taux de croissance et de ses capacités. ** Nous sommes toujours enclins à imaginer les pires scénarios plutôt que les meilleurs scénarios. Je pense qu'une façon de gérer l'anxiété liée au changement est de regarder en arrière. En fait, les humains ont eu ce genre d'anxiété dans le passé, mais jamais dans le pire des cas que nous imaginions. Il est probable que ce soit la même chose cette fois. **
La meilleure façon que j'ai trouvée pour gérer mes angoisses est d'essayer de les utiliser. Je trouve que la plupart de l'anxiété vient de ceux qui n'ont pas utilisé l'IA, et ils gardent un sentiment de distance par rapport à l'IA. En fait, une fois qu'ils commenceront à essayer de l'utiliser, ils verront que l'IA présente à la fois des avantages, des limites et des inconvénients. Cela réduira leur anxiété.
Li Zhifei : Si AGI ne se produit pas aujourd'hui, cela se produira demain. Puisqu'il est imparable, vous devez l'embrasser et le comprendre. Pour moi en ce moment, AGI est un partenaire de réflexion. Je vais lui parler de beaucoup de problèmes.Ses connaissances sont très complètes et il peut me donner des conseils d'un point de vue large et compréhensif. Je pense que cela peut être une bonne forme d'IA humaine.
Dans le même temps, nous pouvons voir que les grands modèles d'aujourd'hui manquent encore de certaines capacités critiques de la véritable AGI. Par exemple, la capacité de raisonnement logique et de planification de tâches complexes. Si vous voulez que l'IA démonte les étapes et atteigne l'objectif en fonction d'un certain objectif, ce n'est pas si bon pour le moment.
**Zhang Peng : KK est également un créateur de contenu. Selon vous, quelle est la valeur ultime des créateurs qui ne peut pas être remplacée par l'IA à l'ère de l'IA ? **
Kevin Kelly : J'ai utilisé l'intelligence artificielle et d'autres outils dans mon écriture. Je ne pense pas que quiconque perdra son emploi à cause de l'IA. **Parce que je ne trouve pas un seul exemple où un artiste a perdu son emploi à cause de l'IA. C'est une peur imaginaire, un problème qui n'existe pas. L'emploi est probablement le problème le moins grave associé à l'IA. **
Ce que j'essaie de dire, c'est que ce qui a disparu peut être votre description de poste, c'est-à-dire ce que vous faites réellement, peut changer. ** Certaines personnes ont observé que 50 % de leur travail peut être effectué par l'IA, tandis que les 50 % restants seront augmentés et amplifiés par l'IA. ** Ainsi, à l'avenir, la moitié du travail n'aura peut-être plus besoin de personnel pour le faire, et les gens pourront mieux faire les 50 % de travail restants. C'est généralement le modèle que nous verrons.
** Bien sûr, certains types d'emplois disparaissent, comme commander de la nourriture et compter l'argent en tant que caissier. Nous ne voulons pas que les humains fassent ces travaux, alors ils vont définitivement disparaître, et ils devraient disparaître. **
**Zhang Peng : Comment évaluez-vous la compétitivité des jeunes et des moins jeunes à l'ère de l'IA ? **
Kevin Kelly : Les personnes âgées ont beaucoup d'avantages, elles sont bien informées et expérimentées. Les jeunes ont aussi beaucoup d'avantages parce qu'ils ne savent pas ce qui est impossible. Je ne pense pas que quiconque soit plus compétitif que qui.
Je dirais que les jeunes d'aujourd'hui parlent souvent d'être des natifs du numérique et d'avoir un avantage sur la technologie. Mais à cause du développement rapide de l'intelligence artificielle et d'autres choses, les jeunes peuvent être autochtones hier et être demain comme des « vieux ». Que vous soyez jeune ou vieux, tout le monde est un "novice" dans la nouvelle ère et doit continuer à apprendre de nouvelles choses rapidement tout au long de sa vie.
**Zhang Peng : Avec une maîtrise différente de la technologie de l'IA, cela entraînera-t-il des changements dans l'écart entre les riches et les pauvres ? Autrement dit, les personnes qui utiliseront l'IA à l'avenir seront-elles plus productives et mieux à même d'être compétitives ? **
Kevin Kelly : Oui, l'écart de richesse va se creuser. ** Je pense qu'avec le temps, votre capacité à travailler avec l'intelligence artificielle peut être plus importante que le fait que vous alliez à l'université ou non. Peut-être que le but de l'université sera de vous apprendre à travailler avec l'intelligence artificielle. Pour les très ambitieux, s'ils apprennent à utiliser l'intelligence artificielle, leur salaire fera une grande différence. **
Cependant, à mesure que l'IA se répandra dans le monde, nous parviendrons à l'avenir à un accès égal à l'IA dans le monde, tout comme à l'égalité d'accès à l'éducation. Je connais des amis qui dirigent de grandes entreprises aux États-Unis et qui embauchent des employés qui travaillent à distance, tant qu'ils le peuvent, les antécédents n'ont pas d'importance. Par conséquent, de nombreuses personnes travaillant en Amérique du Sud et en Afrique seront payées selon les normes salariales américaines. Ils gagneront plus d'argent qu'ils ne le feraient autrement.
**Zhang Peng : Le développement rapide de la technologie peut engendrer de l'injustice et de l'injustice dans le domaine social. Comment devrions-nous trouver un équilibre entre le développement et l'équité et la justice ? **
Kevin Kelly : Je pense que nous pouvons trouver un équilibre entre le progrès et l'équité. En fait, je pense qu'une grande partie du progrès consiste à répartir l'équité.
Comparé à il y a des centaines d'années, le monde était très injuste. Vous êtes né esclave, serf ou paysan, et il n'y avait aucune chance d'aller au-delà. Mais grâce au progrès, nous avons maintenant un monde plus égalitaire et plus juste. Je crois que le développement de la technologie peut accroître l'équité, même si cela ne se réalise pas, c'est possible.
** Li Zhifei : ** Du point de vue d'un ingénieur, ** Si vous regardez l'équité du point final et espérez que tout le monde a le même niveau de richesse et de capacité, cela conduira certainement à de plus en plus d'injustice. Mais si vous envisagez l'équité à partir d'un point de départ, comme rendre les outils d'IA accessibles à tous, cela peut être préférable pour atteindre l'équité. **
**Zhang Peng : Maintenant, nous voyons que dans certaines entreprises, comme Midjourney, une société de graphiques de Vincent, une douzaine de personnes peuvent générer un revenu annuel de centaines de millions de dollars. Pouvons-nous comprendre que l'IA a fondamentalement changé la productivité ? Les futures entreprises deviendront-elles plus petites et plus légères en conséquence ? **
Kevin Kelly : L'incroyable puissance que possèdent désormais Internet et l'intelligence artificielle peut à la fois autonomiser les particuliers, les entreprises de taille moyenne et les grandes entreprises. Il est plus facile pour un individu de posséder une entreprise, nous verrons donc beaucoup de nouvelles entreprises qui ne sont que de l'IA plus quelques personnes. Mais en même temps, nous avons également vu certaines entreprises devenir plus grandes en raison de l'existence de l'intelligence artificielle, et même augmenter la taille d'un million de personnes.
** Nous n'allons donc pas entrer soudainement dans un monde d'entreprises avec seulement une ou deux personnes, cela n'arrivera pas. En même temps, nous ne profiterons pas seulement aux grandes entreprises. C'est la beauté de l'IA, elle peut profiter et responsabiliser tout le monde. **
Li Zhifei : Je pense que l'effet longue traîne et l'effet Matthew deviendront de plus en plus évidents.
D'une part, la queue deviendra de plus en plus longue, et de plus en plus de petites entreprises apparaîtront, et elles deviendront un système complet par elles-mêmes. D'autre part, lorsqu'une grande entreprise dispose de solides capacités d'IA, son pouvoir organisationnel deviendra plus fort. Auparavant, il ne pouvait organiser que 1 000 personnes, mais maintenant il peut organiser 10 000, 100 000 ou 1 million de personnes. Par exemple, l'industrie chinoise de la livraison de nourriture s'appuie sur un ensemble complet de systèmes d'automatisation pour organiser un énorme groupe de passagers.
**Zhang Peng : À l'heure actuelle, l'IA est également le sujet le plus brûlant de la Silicon Valley. De nombreux entrepreneurs pensent à l'innovation commerciale avec de grands modèles comme noyau. KK a-t-il des observations à ce sujet ? **
Kevin Kelly : Cela me rappelle les débuts d'Internet. Lorsque Internet est apparu, tout d'un coup, toutes les entreprises ont réalisé qu'elles devaient se mettre sur Internet. Et maintenant, chaque entreprise profite de l'interface conversationnelle de l'IA, en introduisant de grands modèles de langage et l'intelligence artificielle pour faire des affaires. Un exemple est Wendy's, un fast-food à la mode qui utilise désormais une interface conversationnelle, permettant aux clients de commander de la nourriture dans la voiture et de parler à une machine.
Au-delà de cela, il existe des services et des idées entièrement nouveaux qui n'ont pas encore émergé. Je ne connais pas les chiffres exacts, mais ce que je sais avec certitude, c'est que des centaines de milliards de dollars affluent actuellement dans cet espace. Le plus souvent, la plupart d'entre eux ne réussiront probablement pas, mais un nombre suffisant d'entre eux le seront. Nous allons voir des choses assez étonnantes au cours des trois prochaines années, et des entreprises entièrement nouvelles qui pourraient devenir vraiment grandes.
**Zhang Peng : Au cours des 5 000 derniers jours, KK a fait de nombreuses prédictions correctes et a une vision prospective de nombreuses directions majeures. Récemment, vous avez prédit que les 5 000 prochains jours seraient l'une des périodes les plus critiques de l'histoire humaine. Où est la clé de ce nœud ? Dans quelle direction l'humanité mènera-t-elle à la croisée des chemins ? **
Kevin Kelly : Il se passe bien d'autres choses dans le monde en plus de l'intelligence artificielle. Nous sommes confrontés au défi du changement climatique, le génie génétique pointe à l'horizon, il est facile d'imaginer l'intelligence artificielle comme dégradante, il est facile de voir la surveillance devenir omniprésente et nous perdons le contrôle. Nous sommes confrontés à de nombreux défis et opportunités à l'échelle mondiale.
**Il s'agit d'une période de transition étroite et urgente, et nous devons la traverser. ** Je pense que nous pouvons accéder à ce portail étroit grâce à l'électrification, aux véhicules électriques, aux énergies alternatives et au succès du développement d'un nouveau vaccin de la couronne. À l'heure actuelle, il existe encore de nombreuses tensions et divisions politiques sur la planète, mais nous avons besoin d'une action collective et nous devons parvenir à un consensus dans les domaines de la technologie, de l'environnement, etc., et travailler ensemble pour résoudre les problèmes.
**C'est la première fois sur Terre que des cultures mondiales, des économies mondiales et des impacts environnementaux mondiaux apparaissent. C'est aussi notre chance de devenir une civilisation plus globale dans les 5000 prochains jours. **
Li Zhifei : KK a déclaré qu'au cours des 5 000 prochains jours, le monde aura de nombreux autres défis en plus de l'IA. Je pense que les 365 prochains jours sont également très importants du point de vue de l'IA. L'IA a traversé de nombreuses étapes, chaque fois que les gens ont des attentes élevées à son égard, mais cela ne fonctionne pas, puis les gens s'attendent à des valeurs élevées, et cela ne fonctionne plus. Je pense que la vague d'AGI d'aujourd'hui sera quelque chose que les gens de l'industrie trouveront génial, ou si elle deviendra une chose très importante dans la société, cela dépend dans une large mesure des 365 prochains jours.
Y compris comment développer le grand modèle, est-ce que le plus gros est le mieux, ou faut-il ajouter la multi-modalité, ou faut-il ajouter des solutions, etc. ? Y compris en regardant le taux de pénétration. À l'heure actuelle, moins de 5 % des personnes dans le monde ont peut-être utilisé ChatGPT. Comment pouvons-nous augmenter le taux de pénétration de 5 % à 20 % ? Y compris la réglementation, comment les humains doivent-ils gérer l'impact de l'IA sur la société ? Cela inclut également l'IA en plus d'être appliquée à des industries telles qu'Internet, comment devrait-elle être mise en œuvre dans des industries traditionnelles telles que les soins médicaux, l'automobile et la finance ? etc.
Je pense que cela peut prendre au moins un an pour que les gens fassent diverses tentatives avant de pouvoir avoir un jugement plus clair.
03 Les humains moyens ne sont pas nobles, nous voulons que l'IA soit meilleure que les humains moyens
**Zhang Peng : dans de nombreux cas, les humains ont tendance à faire confiance à la technologie. Par exemple, quelqu'un dormira dans une voiture autonome et provoquera un accident. Cette confiance subtile dans la technologie de pointe est-elle une habitude humaine ? Quelles sont les conséquences? **
Kevin Kelly : Les voitures autonomes ne sont pas parfaites, mais elles sont toujours meilleures que les humains pour conduire. Peut-on faire confiance à l'intelligence artificielle ? Lors de conversations avec des chatbots, nous avons constaté que leurs réponses n'étaient pas exactes, nous ne pouvions donc pas leur faire entièrement confiance. Mais je pense que nous allons commencer à nous en occuper bientôt.
De nos jours, la plupart des gens font confiance à leurs calculatrices. Vous lui donnez des chiffres, il vous donne des réponses et vous lui faites entièrement confiance. Nous savons donc que la machine est digne de confiance, et c'est quelque chose qui peut être amélioré. ** Et les préjugés sur l'IA parce qu'ils sont formés en moyenne des humains racistes, sexistes, malveillants, ne sont pas nobles. Nous voulons en fait que notre IA soit meilleure que les humains. **
Tout comme une calculatrice est meilleure qu'un humain moyen, vous devriez vous fier davantage aux réponses que la calculatrice vous donne qu'à l'humain moyen. **La confiance est quelque chose sur laquelle nous devrions nous concentrer et travailler, bien qu'il y ait de nombreux défis, mais en fin de compte, je pense que nous nous fierons fortement à l'intelligence artificielle et aux machines. **
**Zhang Peng : Récemment, de nombreuses personnes aux États-Unis pensent que le développement de l'IA est trop rapide et qu'elles devraient ralentir ou même s'arrêter et y réfléchir. Êtes-vous d'accord avec cette idée? **
Kevin Kelly : Non, je ne le soutiens pas. Je pense que c'est trompeur, trompeur et inutile. Je ne pense pas que ce soit vraiment possible, ni conseillé.
**Zhang Peng : Dans la plupart des films de science-fiction ou des romans d'êtres humains, l'IA est un personnage relativement sombre. Est-ce parce que les êtres humains manquent d'imagination ou avons-nous trop d'imaginations erronées ? **
**Kevin Kelly : Hollywood a toujours dépeint l'intelligence artificielle comme dystopique, horrible et indésirable, ce qui, à mon avis, est un manque d'imagination. Parce que c'est une loi de l'univers qu'il est beaucoup plus facile d'imaginer comment quelque chose échouera que comment cela réussira. ** Honnêtement, il est difficile pour les gens d'imaginer un monde merveilleux dans 100 ans où l'IA est omniprésente, bon marché et bénéfique pour l'humanité, même si c'est le monde dans lequel nous voulons vivre.
De plus, ces studios sont très doués pour raconter des histoires, et les éléments d'une belle histoire sont les conflits, les catastrophes et certains éléments forts. Qu'il s'agisse de guerres, d'ouragans ou d'intelligence artificielle essayant de détruire le monde. Par conséquent, il est peu probable que nous voyions une vision en rose de l'intelligence artificielle dans un film hollywoodien car elle ne contribue pas à l'histoire, même si la possibilité existe, mais elle est très petite.
Par conséquent, nous ne pouvons pas regarder l'intelligence artificielle à travers l'impression d'Hollywood (films). Malheureusement, c'est ce que beaucoup de gens font. Quand il s'agit d'intelligence artificielle, ils pensent à "Terminator", "2001 Space Odyssey" et "HER".
Li Zhifei : Je pense que toute méfiance est due à l'ignorance. Face à la nouvelle espèce d'AGI, je ne comprends pas comment ses capacités émergent, ce qu'elle veut et ce qu'elle peut faire.
Je pense que ce que les humains peuvent faire, d'une part, est de mieux comprendre l'AGI, et d'autre part, d'apprendre à laisser l'AGI s'expliquer clairement. Par exemple, lorsqu'il vous donne une réponse, vous le laissez parler du processus de travail intérieur et du monologue intérieur. Cela peut créer un sentiment de confiance plus fort. **
**Zhang Peng : Pour KK, il semble que le « Tao Te Ching » de Lao Tseu vous ait beaucoup inspiré. Vous avez mentionné que "le niveau de contrôle le plus élevé est hors de contrôle, et le niveau de contrôle le plus bas consiste à tout contrôler". Que pensez-vous de la récente augmentation de la réglementation gouvernementale et technologique de l'IA ? **
Kevin Kelly : Je ne pense pas que la réglementation actuelle soit bonne. Bien sûr, la réglementation est importante et nécessaire, elle est nécessaire pour assurer le bon déroulement des choses, maintenir des règles du jeu équitables et assurer la sécurité. Mais une réglementation prématurée fait peur. Le problème en ce moment, c'est qu'on essaie de réglementer quelque chose qu'on ne connaît pas très bien, et ça mène généralement au désastre.
**Li Zhifei :**Pourquoi y a-t-il une surveillance ? Fondamentalement, ce sont les gens qui craignent que l'impact négatif de l'AGI ne l'emporte sur le positif, qu'il soit trop capable et socialement inacceptable. Mais à ce stade, ce jugement est erroné. Car aujourd'hui, l'impact positif de l'AGI doit être supérieur à son impact négatif.
Deuxièmement, le vrai problème avec AGI aujourd'hui est qu'il n'est pas assez puissant. Y compris la capacité de planification, la capacité d'intégration avec le monde physique, la capacité d'auto-évolution, etc. Bien que nous ayons vu l'espoir, il est encore très loin de la réalisation réelle. Nous n'y arriverons peut-être jamais.
Donc mon point est, ** Nous ne pouvons pas simplement voir la tendance AGI et ensuite augmenter considérablement la réglementation. Cela peut nous permettre de tuer AGI avant même de l'avoir atteint. Une surveillance est certainement nécessaire, mais elle ne devrait pas être trop réglementée. **
**Zhang Peng : L'intelligence artificielle fait parler d'elle depuis de nombreuses années, et il semble maintenant qu'elle entre dans une nouvelle ère. Si l'IA a vraiment une chance de devenir une forme de vie dotée d'une intelligence supérieure à celle des êtres humains à l'avenir, devrions-nous les intégrer dans la civilisation humaine ou les placer sous contrôle humain ? De quelle manière peut vraiment améliorer la civilisation humaine ? **
**Kevin Kelly : Je pense qu'il existe un cadre très utile pour comprendre l'intelligence artificielle (IA) du futur - pas l'IA d'aujourd'hui telle qu'elle est comparée à l'IA des 30, 50 ou 100 prochaines années , Ce n'est pas assez compliqué - c'est le traiter comme un extraterrestre artificiel d'une autre planète. **
Beaucoup d'IA seront une espèce que nous n'avons jamais vue auparavant, pensant différemment des humains. Ils seront aussi intelligents que Yoda (le personnage virtuel de "Star Wars") ou Spock (le personnage virtuel de "Star Trek"), et surpasseront même les humains à certains égards. Nous créerions de nombreux types différents d'extraterrestres artificiels, les respecterions et utiliserions leurs différentes intelligences pour nous aider à résoudre des problèmes difficiles, comme comprendre ce qu'est réellement la gravité quantique.
Mais nous ne leur céderons pas le contrôle. Si nous n'aimons pas leur comportement, nous les renvoyons, les fermons. Nous pouvons leur enlever leur pouvoir si nous pensons qu'ils ont acquis trop de pouvoir. Nous ne voulons pas que l'IA décide de notre sort.
Li Zhifei : L'AGI actuel est comme un papillon, après avoir obtenu beaucoup de nutriments des larves, il complète sa propre sublimation. Cela équivaut à utiliser toutes les connaissances Internet des êtres humains dans le passé pour mener à bien leur propre transformation. À l'avenir, l'IA surpassera certainement les humains à bien des égards. Je pense que les êtres humains peuvent être les ancêtres de l'IA, et c'est plutôt heureux.
KK a dit que nous devons traiter l'IA comme un extraterrestre, ce qui ressemble plus à un contrôle. ** Je pense que les humains peuvent trop surestimer leurs capacités ou leur QI. Vous pouvez imaginer que, par exemple, dans 50 ans, parmi les 100 agents les plus puissants et les plus influents du monde, peut-être seulement 20 seront des humains, et les 80 restants seront des IA. Donc je pense qu'en fin de compte, les humains et l'IA doivent être une fusion, pas un contrôle. **
Voir l'original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Conversation avec Kevin Kelly : Il est trop tôt pour réguler l'IA et devrait permettre « hors de contrôle »
Dialogue : Zhang Peng, Li Zhifei Planification : Wei Shijie, Li Shiyun
Il y a trente ans, alors qu'Internet n'en était qu'à ses balbutiements et que même les ordinateurs personnels étaient rares, un écrivain spécialisé dans la technologie a lancé sa propre frontière en parcourant tous les horizons de la vie à l'époque. S'adressant à certains des esprits les plus brillants du monde, il a entrevu une partie de l'avenir qui culminerait dans le tome Out of Control (1994). Jusqu'à plus de dix ans plus tard, lorsque l'ère de l'Internet mobile et des téléphones intelligents est arrivée, les gens ont été surpris de constater que les derniers concepts "interconnexion mondiale de l'information, systèmes distribués, monnaie numérique, cloud computing, etc." avaient été prédits depuis longtemps par ce livre.
L'écrivain technique est Kevin Kelly, également connu sous le nom de KK. Il est le fondateur du magazine "Wired", observateur technologique et "prophète". En 2010, la version chinoise de "Out of Control" a été lancée, et KK a également commencé une série de visites en Chine, et s'est progressivement familiarisé avec le peuple chinois.
Debout au nœud d'aujourd'hui, l'intelligence artificielle générale (IAG) est en train de germer, et une révolution des temps est sur le point de commencer, qui fait vaguement écho à la prophétie du livre "Out of Control". KK avait prédit à l'époque que les humains finiraient par s'unir aux machines, "les machines deviennent biologiques et les organismes sont en train d'être modifiés". Selon ses propres mots, "Out of Control" ne parle que d'une chose, c'est-à-dire comment construire un "système complexe" - les robots, l'intelligence artificielle (IA), etc. peuvent être considérés comme des systèmes complexes, et il pense que cette idée est toujours applicable aujourd'hui.
Il n'y a pas longtemps, nous avons eu une conversation avec KK avec Li Zhifei, le fondateur et PDG de la grande start-up de mannequins Going out to ask.
Le premier est du point de vue pratique de la technologie et des affaires, tandis que le second est du point de vue abstrait des êtres humains, de l'histoire et même de l'univers, discutant de la montée, de l'impact et de la menace de l'intelligence artificielle. C'est une discussion plutôt « science-fiction » et « imaginative », on essaie de « prédire » à nouveau l'avenir des humains et de l'intelligence artificielle.
Tous deux soutiennent que, pour la première fois dans l'histoire de l'humanité, l'intelligence artificielle d'aujourd'hui a pris des formes réalistes. Li Zhifei a déclaré que l'IA actuelle équivaut déjà au QI d'un enfant humain et possède de véritables capacités d'intelligence générale telles que la connaissance, la logique, le raisonnement et la planification. Et KK pense qu'en tant que "vie basée sur le silicium", l'IA sera aussi adaptable que les humains et pourra apprendre et grandir par elle-même.
De manière très similaire, ils adoptent tous deux l'optimisme technologique. KK pense que l'IA ne rendra pas les humains au chômage, elle ne fera que les rendre plus efficaces et les libérer des emplois « odieux ». L'IA semble creuser l'écart entre les riches et les pauvres, mais elle est plus susceptible d'atteindre l'équité et la justice en rendant le gâteau plus gros et meilleur comme chaque changement technologique dans l'histoire humaine. En termes d'impact sur les entreprises, cela autonomisera à la fois les particuliers, les petites et moyennes entreprises et les grandes entreprises.
Comme le nom du livre "Out of Control" l'indique - Kevin Kelly pense que pour mieux acquérir le pouvoir de l'IA, les humains devraient permettre à certaines parties de l'IA de "devenir incontrôlables". Après tout, ChatGPT est né dans un état "d'émergence" hors de contrôle pour les humains. Lui et Li Zhifei pensent tous deux que l'intelligence actuelle de l'IA est encore immature et que les humains devraient continuer à lâcher prise, au lieu de contrôler (superviser) prématurément et excessivement. Ce dernier peut étouffer l'innovation à ses débuts.
À plus long terme, si un jour l'IA devient vraiment une super forme de vie, comment les humains devraient-ils s'en accommoder ?
La science-fiction et les films dépeignent un avenir sombre qui se termine souvent par le réveil des IA pour tuer des humains. Mais Kevin Kelly pense qu'il s'agit d'une manifestation du manque d'imagination humaine. L'échec est toujours plus facile à imaginer que le succès, et c'est aussi tentant pour les histoires. En ce qui concerne l'avenir, il n'est pas difficile d'imaginer les avantages et la valeur de l'intelligence artificielle.
Sa suggestion est que l'IA peut être considérée comme un "extraterrestre artificiel", et que les êtres humains pourront utiliser la sagesse de l'IA pour résoudre leurs propres problèmes et atteindre un certain degré de "contrôle". Li Zhifei pense qu'en tant qu '«ancêtre» de l'IA, les humains finiront par fusionner avec l'IA au lieu de la contrôler.
Quant à savoir si cette prophétie sera vraie, cela dépend du monde après 5000 jours.
Voici le texte intégral de la conversation :
01 Même si OpenAI n'a pas créé ChatGPT, d'autres sociétés le feront bientôt
**Zhang Peng : Indépendamment de la Chine ou des États-Unis, les gens discutent de grands modèles récemment. Que pensez-vous de cette vague de changement technologique dans les gros modèles ? Vous sentirez-vous très choqué? **
Kevin Kelly : L'intelligence artificielle (IA) existe depuis des décennies. Un bond en avant majeur s'est produit lorsque les modèles d'IA ont commencé à utiliser les réseaux de neurones et l'apprentissage en profondeur, et ils sont devenus de plus en plus grands. Il y a environ 4 ou 5 ans, il a commencé à produire de très grands modèles de transformateurs (modèles d'apprentissage profond avec mécanisme d'auto-attention). Au cours des deux dernières années, il a commencé à s'interfacer avec de grands modèles de langage.
En fait, récemment, le grand changement de l'IA n'est pas sa capacité, et ses performances à cet égard ne sont pas bien meilleures. **Ce qui a vraiment changé dans l'IA ces derniers temps, c'est qu'elle nous permet d'avoir une interface utilisateur conversationnelle qui peut réellement communiquer avec l'IA en langage (naturel). Avant cela, les gens devaient acquérir de nombreuses connaissances en programmation et être très compétents pour utiliser l'IA. Mais maintenant, tout à coup, tout le monde utilise l'IA. C'est la partie vraiment excitante. **
Li Zhifei : Je suis d'accord avec ce que KK a dit, le principal changement dans le grand modèle de langage actuel est l'amélioration des capacités d'interaction en langage naturel. C'est en effet ce que beaucoup de gens ordinaires peuvent ressentir, et c'est précisément à cause de cela que ChatGPT a une si grande influence sociale aujourd'hui.
Mais je pense qu'il y a aussi beaucoup de variations dans les capacités des grands modèles aujourd'hui, et c'est cette variation qui rend possible leur interaction naturelle. Parce que derrière la réalisation de l'interaction naturelle, l'IA doit avoir de solides connaissances, une capacité de compréhension, une capacité linguistique, une capacité de raisonnement et de planification, etc. L'IA doit avoir une percée dans ces capacités de base afin de parvenir à une interaction en langage naturel.
Et je pense que la capacité des grands modèles à l'avenir ne sera pas seulement l'interaction en langage naturel. Des choses telles que l'écriture de programmes, les processus d'automatisation d'entreprise et l'automatisation des robots ne sont pas interactives, mais elles deviendront possibles à l'avenir.
**Zhang Peng : Je suis tout à fait d'accord sur le fait que la capacité de l'IA à mieux communiquer avec les humains entraînera un changement de paradigme dans la technologie et les affaires. Si ChatGPT est la deuxième courbe du développement de l'IA, son apparition est-elle inévitable ou accidentelle ? **
**Kevin Kelly :**ChatGPT est capable de dépasser toutes les attentes. ** Je ne pense pas que quiconque s'y attendait, y compris les personnes dans le domaine de l'IA. En fait, la plupart des chercheurs ne savent pas comment fonctionne ChatGPT, et ils essaient de l'améliorer, mais c'est difficile car ils ne savent pas comment cela fonctionne. Par conséquent, l'émergence de ChatGPT était un accident. **
Bien que ChatGPT soit très surprenant, nous voyons aussi ses limites. **Sa principale limitation est que le modèle a été formé sur un contenu moyen rédigé par un humain, il a donc tendance à produire des résultats moyens. Et ce que nous voulons souvent, ce n'est pas la moyenne, mais quelque chose au-dessus de la moyenne. **C'est difficile à faire.
Deuxièmement, ces modèles sont optimisés pour la plausibilité, pas pour la précision. Par conséquent, comment les rendre plus précis est un défi majeur auquel tout le monde est actuellement confronté.
Li Zhifei : Je pense que l'émergence de ChatGPT est accidentelle à court terme, mais inévitable à long terme. On peut dire que c'est par hasard qu'OpenAI a créé ChatGPT à la fin de l'année dernière, mais même s'il ne l'a pas fait, d'autres entreprises le feront bientôt. **
Cela s'est répété d'innombrables fois dans l'histoire de la technologie. Prenant l'apprentissage en profondeur comme exemple, AlexNet a été le premier à faire de l'annotation d'images en 2012, mais à cette époque, de nombreuses équipes avec de fortes convictions et des capacités d'ingénierie le faisaient également. Si AlexNet n'y parvenait pas, d'autres le feraient. De plus, Google a fabriqué un transformateur en 2017 pour résoudre les problèmes de faible scalabilité des modèles de séquence tels que RNN et LSTM. Si Google ne le faisait pas, d'autres équipes le feraient.
** Le contexte de la naissance de ChatGPT est que le transformateur est déjà très mature et que nous disposons d'une forte puissance de calcul pour former les données massives d'Internet. Tous les éléments nécessaires de ChatGPT sont déjà disponibles et sa naissance est inévitable. ** C'est juste qu'OpenAI l'a mieux assemblé à ce moment-là.
**Zhang Peng : En parlant d'inévitabilité et de contingence, j'ai pensé à un mot qui a été très populaire récemment, « émergence ». Ce mot est apparu au moins 88 fois dans « Out of Control » de KK, comment doit-on comprendre le sens de ce mot aujourd'hui ? **
Kevin Kelly : D'un point de vue anglo-saxon, « émergence » est un terme qui désigne le comportement d'un système, tout un tas de choses interconnectées, comme Internet, des robots, des corps, des écosystèmes, ou même des Le monde, dont le comportement n'est pas contenu dans le comportement d'une seule partie. Par exemple, une ruche peut se souvenir de choses au-delà de la durée de vie d'une seule abeille, de sorte que la ruche elle-même a un comportement, une capacité et un pouvoir que les parties individuelles n'ont pas. Nous appelons cela "l'émergence".
De même, une grande partie de l'IA générée est également "émergente". Parce qu'il n'y a pas un seul endroit dans le modèle qui explique d'où il vient, il faut que toutes les pièces travaillent ensemble pour produire cette nouvelle capacité. Tout comme il n'y a pas de "pensée" dans notre cerveau, la "pensée" "émerge" du neurone tout entier. ** Des choses telles que la réflexion, l'évolution et l'apprentissage peuvent toutes "émerger" du système.
**Li Zhifei :**Ma compréhension de "l'émergence" vient du livre "Complexity", qui parle de "plus c'est différent" et "plus c'est différent". Tout comme un vieux dicton chinois, "le changement quantitatif conduit au changement qualitatif". La première fois que le grand mannequin a parlé d'« émergence », c'est dans un article publié par Stanford et Google à la fin de l'année dernière. Ils ont découvert par des expériences qu'en augmentant la taille du grand modèle, lorsqu'un certain point critique était atteint, il "émergeait" soudainement dans une certaine capacité.
J'ai maintenant l'impression que le mot "émergence" est en fait galvaudé. Parce que nous ne pouvons pas expliquer d'où vient la capacité du grand modèle, nous l'appelons "émergence". Ce mot ne peut pas être expliqué ou manipulé, et il ne nous aide pas à former et à appliquer le grand modèle. Maintenant, tout le monde n'étudie plus "l'émergence", mais plus de recherche sur la relation quantitative entre la quantité de paramètres du grand modèle et la performance finale, ce qui peut nous être plus utile pour comprendre et contrôler le grand modèle.
**Zhang Peng : Pouvons-nous comprendre que « l'émergence » entraînera une « perte de contrôle » ? **
Kevin Kelly : Cette compréhension n'est pas tout à fait correcte. Bien sûr, il y aura des "parties hors de contrôle", si vous voulez pouvoir utiliser le pouvoir du comportement "d'émergence", vous devrez peut-être tolérer certaines choses hors de votre contrôle. Notre compréhension et notre contrôle de celui-ci ne sont peut-être pas assez bons dans l'IA en ce moment, mais c'est en fait nécessaire pour des résultats optimaux.
Mais en même temps, il ne faut pas que tout « devienne incontrôlable », il faut effectuer un certain « contrôle », c'est-à-dire guider et gérer l'intelligence artificielle. ** Encore une fois, nous ne voulons pas être trop restrictifs, mais un certain niveau de contrôle doit être atteint. Cependant, nous n'aurons probablement jamais un contrôle total sur eux**, en particulier avec des intelligences artificielles plus puissantes, nous ne comprendrons probablement jamais pleinement leur fonctionnement. C'est le compromis.
**Zhang Peng : Cela fait de nombreuses années que vous n'avez pas écrit le livre "Out of Control". À ce stade actuel, combiné à cette vague de révolution de l'IA, pensez-vous qu'il y a une partie de "Out of Control" qui vaut la peine recalibrage ? **
Kevin Kelly : Je ne pense pas avoir trop parlé d'intelligence artificielle et de hors de contrôle dans le livre "Out of Control", il parle en fait principalement de la façon de transformer des choses simples en choses complexes. Il y a quelque chose qui s'appelle l'architecture de sous-système de Rodney Brooks, qui mentionne que vous pouvez créer un robot complexe en y incorporant des éléments d'intelligence. Le processus qui mène à la complexité est que vous superposez des choses sur des choses qui fonctionnent déjà. (La théorie architecturale de Brooks propose que le comportement de niveau supérieur doit contenir le comportement de niveau inférieur).
**Comme un insecte, même si vous lui coupez la tête, il peut toujours marcher, car la fonction de marcher n'est plus que partiellement remplie. Tout comme notre cerveau a un noyau responsable de la respiration et d'autres fonctions autonomes, nous y ajoutons plus de couches de complexité. Cette idée est toujours valable aujourd'hui lorsque les gens fabriquent des robots et de l'intelligence artificielle et essaient de les rendre plus complexes. **C'est vraiment la seule chose dont je parle dans "Out of Control" et je pense que le point est toujours d'actualité.
**Zhang Peng : Je me souviens que vous aviez une perspective intéressante auparavant, c'est-à-dire "en supposant que la technologie est une sorte de vie", lorsqu'elle émergera avec une intelligence proche des êtres humains, que voudra-t-elle ensuite ? Comment cela affectera-t-il le monde des affaires et la société humaine ? **
**Kevin Kelly :**La technologie est ce que j'appelle le "septième royaume de la vie". Nous avons accéléré l'évolution de la vie vers un royaume "sec" qui n'a plus besoin d'un environnement "humide", mais qui peut exister dans le silicium. Nous pouvons utiliser notre esprit pour créer d'autres technologies réalistes. Ils sont adaptables et peuvent apprendre et grandir.
Ce que je veux dire, c'est que la technologie poursuit fondamentalement les mêmes choses que la vie. Par exemple, ils gagneraient en diversité au fur et à mesure de leur évolution, et ils deviendraient également plus spécialisés et spécifiques. Notre corps compte 52 types de cellules différents, dont les cellules cardiaques, les cellules osseuses et les cellules osseuses. Nous créerons également des IA spécialisées qui effectueront des tâches spécifiques telles que la traduction linguistique, la génération d'images et la conduite autonome. **De plus, la technologie deviendra plus complexe comme la vie, ce qui est évident.
En fin de compte, la technologie sera également "mutuellement bénéfique et symbiotique" comme la vie. La vie a évolué si complexe qu'elle n'est entrée en contact qu'avec d'autres formes de vie, jamais avec du matériel non vivant. Comme les bactéries dans votre intestin. Ils ne sont entourés que d'autres cellules vivantes. ** À l'avenir, certaines IA ne seront pas conçues pour les humains, mais seront conçues pour servir d'autres IA. Par exemple, il y aura des IA dédiées à la maintenance d'autres IA, des IA qui ne communiquent qu'avec d'autres IA. **
**Li Zhifei :**Je veux expliquer la relation entre l'IA et la vie du point de vue d'un ingénieur. Il y a quelques années, beaucoup de gens me demandaient toujours : "Quel âge a le QI d'Alphago (le premier programme informatique à vaincre le champion du monde de Go) ?" A cette époque, je n'aimais pas ce genre de question car je pouvais je n'y réponds pas. À cette époque, bien que l'IA puisse jouer au go et ait un QI élevé, elle ne pouvait pas mener de conversations en langage naturel comme un enfant de 3 ans. A cette époque, son mécanisme était fondamentalement différent de celui des êtres humains.
Mais ces jours-ci, j'aime particulièrement comparer l'IA à un enfant. Je pense que le cœur est parce que l'IA d'aujourd'hui possède déjà les véritables capacités d'intelligence générale que les enfants ont, telles que la connaissance, la logique, le raisonnement, la planification, etc. ** Je veux donc dire que l'IA d'aujourd'hui ressemble plus à un corps vivant. Il a le QI d'un enfant de 5 ans et les connaissances d'un professeur d'université ainsi que d'un nouveau-né, selon qu'il a vu ou non les données. **
Sur la base de cette compréhension, je pense que nous devons repenser ce que l'IA veut vraiment. Pour un enfant de 5 ans, il va d'abord s'auto-purifier, suivi de l'auto-réplication et de la collaboration. Je n'ai pas de bonne réponse à cette question moi-même.
02 Au cours des 5000 prochains jours, nous traverserons une période de transition étroite et urgente
**Zhang Peng : Lorsque les capacités de l'IA se développent rapidement, de nombreuses personnes ordinaires se sentent anxieuses et craignent de perdre leur compétitivité. KK a-t-il des idées et des suggestions à ce sujet ? **
**Kevin Kelly :**Même si la technologie de l'IA est en développement depuis 20 ans, les gens pensent qu'il s'agit d'un succès instantané et s'inquiètent de son taux de croissance et de ses capacités. ** Nous sommes toujours enclins à imaginer les pires scénarios plutôt que les meilleurs scénarios. Je pense qu'une façon de gérer l'anxiété liée au changement est de regarder en arrière. En fait, les humains ont eu ce genre d'anxiété dans le passé, mais jamais dans le pire des cas que nous imaginions. Il est probable que ce soit la même chose cette fois. **
La meilleure façon que j'ai trouvée pour gérer mes angoisses est d'essayer de les utiliser. Je trouve que la plupart de l'anxiété vient de ceux qui n'ont pas utilisé l'IA, et ils gardent un sentiment de distance par rapport à l'IA. En fait, une fois qu'ils commenceront à essayer de l'utiliser, ils verront que l'IA présente à la fois des avantages, des limites et des inconvénients. Cela réduira leur anxiété.
Li Zhifei : Si AGI ne se produit pas aujourd'hui, cela se produira demain. Puisqu'il est imparable, vous devez l'embrasser et le comprendre. Pour moi en ce moment, AGI est un partenaire de réflexion. Je vais lui parler de beaucoup de problèmes.Ses connaissances sont très complètes et il peut me donner des conseils d'un point de vue large et compréhensif. Je pense que cela peut être une bonne forme d'IA humaine.
Dans le même temps, nous pouvons voir que les grands modèles d'aujourd'hui manquent encore de certaines capacités critiques de la véritable AGI. Par exemple, la capacité de raisonnement logique et de planification de tâches complexes. Si vous voulez que l'IA démonte les étapes et atteigne l'objectif en fonction d'un certain objectif, ce n'est pas si bon pour le moment.
**Zhang Peng : KK est également un créateur de contenu. Selon vous, quelle est la valeur ultime des créateurs qui ne peut pas être remplacée par l'IA à l'ère de l'IA ? **
Kevin Kelly : J'ai utilisé l'intelligence artificielle et d'autres outils dans mon écriture. Je ne pense pas que quiconque perdra son emploi à cause de l'IA. **Parce que je ne trouve pas un seul exemple où un artiste a perdu son emploi à cause de l'IA. C'est une peur imaginaire, un problème qui n'existe pas. L'emploi est probablement le problème le moins grave associé à l'IA. **
Ce que j'essaie de dire, c'est que ce qui a disparu peut être votre description de poste, c'est-à-dire ce que vous faites réellement, peut changer. ** Certaines personnes ont observé que 50 % de leur travail peut être effectué par l'IA, tandis que les 50 % restants seront augmentés et amplifiés par l'IA. ** Ainsi, à l'avenir, la moitié du travail n'aura peut-être plus besoin de personnel pour le faire, et les gens pourront mieux faire les 50 % de travail restants. C'est généralement le modèle que nous verrons.
** Bien sûr, certains types d'emplois disparaissent, comme commander de la nourriture et compter l'argent en tant que caissier. Nous ne voulons pas que les humains fassent ces travaux, alors ils vont définitivement disparaître, et ils devraient disparaître. **
**Zhang Peng : Comment évaluez-vous la compétitivité des jeunes et des moins jeunes à l'ère de l'IA ? **
Kevin Kelly : Les personnes âgées ont beaucoup d'avantages, elles sont bien informées et expérimentées. Les jeunes ont aussi beaucoup d'avantages parce qu'ils ne savent pas ce qui est impossible. Je ne pense pas que quiconque soit plus compétitif que qui.
Je dirais que les jeunes d'aujourd'hui parlent souvent d'être des natifs du numérique et d'avoir un avantage sur la technologie. Mais à cause du développement rapide de l'intelligence artificielle et d'autres choses, les jeunes peuvent être autochtones hier et être demain comme des « vieux ». Que vous soyez jeune ou vieux, tout le monde est un "novice" dans la nouvelle ère et doit continuer à apprendre de nouvelles choses rapidement tout au long de sa vie.
**Zhang Peng : Avec une maîtrise différente de la technologie de l'IA, cela entraînera-t-il des changements dans l'écart entre les riches et les pauvres ? Autrement dit, les personnes qui utiliseront l'IA à l'avenir seront-elles plus productives et mieux à même d'être compétitives ? **
Kevin Kelly : Oui, l'écart de richesse va se creuser. ** Je pense qu'avec le temps, votre capacité à travailler avec l'intelligence artificielle peut être plus importante que le fait que vous alliez à l'université ou non. Peut-être que le but de l'université sera de vous apprendre à travailler avec l'intelligence artificielle. Pour les très ambitieux, s'ils apprennent à utiliser l'intelligence artificielle, leur salaire fera une grande différence. **
Cependant, à mesure que l'IA se répandra dans le monde, nous parviendrons à l'avenir à un accès égal à l'IA dans le monde, tout comme à l'égalité d'accès à l'éducation. Je connais des amis qui dirigent de grandes entreprises aux États-Unis et qui embauchent des employés qui travaillent à distance, tant qu'ils le peuvent, les antécédents n'ont pas d'importance. Par conséquent, de nombreuses personnes travaillant en Amérique du Sud et en Afrique seront payées selon les normes salariales américaines. Ils gagneront plus d'argent qu'ils ne le feraient autrement.
**Zhang Peng : Le développement rapide de la technologie peut engendrer de l'injustice et de l'injustice dans le domaine social. Comment devrions-nous trouver un équilibre entre le développement et l'équité et la justice ? **
Kevin Kelly : Je pense que nous pouvons trouver un équilibre entre le progrès et l'équité. En fait, je pense qu'une grande partie du progrès consiste à répartir l'équité.
Comparé à il y a des centaines d'années, le monde était très injuste. Vous êtes né esclave, serf ou paysan, et il n'y avait aucune chance d'aller au-delà. Mais grâce au progrès, nous avons maintenant un monde plus égalitaire et plus juste. Je crois que le développement de la technologie peut accroître l'équité, même si cela ne se réalise pas, c'est possible.
** Li Zhifei : ** Du point de vue d'un ingénieur, ** Si vous regardez l'équité du point final et espérez que tout le monde a le même niveau de richesse et de capacité, cela conduira certainement à de plus en plus d'injustice. Mais si vous envisagez l'équité à partir d'un point de départ, comme rendre les outils d'IA accessibles à tous, cela peut être préférable pour atteindre l'équité. **
**Zhang Peng : Maintenant, nous voyons que dans certaines entreprises, comme Midjourney, une société de graphiques de Vincent, une douzaine de personnes peuvent générer un revenu annuel de centaines de millions de dollars. Pouvons-nous comprendre que l'IA a fondamentalement changé la productivité ? Les futures entreprises deviendront-elles plus petites et plus légères en conséquence ? **
Kevin Kelly : L'incroyable puissance que possèdent désormais Internet et l'intelligence artificielle peut à la fois autonomiser les particuliers, les entreprises de taille moyenne et les grandes entreprises. Il est plus facile pour un individu de posséder une entreprise, nous verrons donc beaucoup de nouvelles entreprises qui ne sont que de l'IA plus quelques personnes. Mais en même temps, nous avons également vu certaines entreprises devenir plus grandes en raison de l'existence de l'intelligence artificielle, et même augmenter la taille d'un million de personnes.
** Nous n'allons donc pas entrer soudainement dans un monde d'entreprises avec seulement une ou deux personnes, cela n'arrivera pas. En même temps, nous ne profiterons pas seulement aux grandes entreprises. C'est la beauté de l'IA, elle peut profiter et responsabiliser tout le monde. **
Li Zhifei : Je pense que l'effet longue traîne et l'effet Matthew deviendront de plus en plus évidents.
D'une part, la queue deviendra de plus en plus longue, et de plus en plus de petites entreprises apparaîtront, et elles deviendront un système complet par elles-mêmes. D'autre part, lorsqu'une grande entreprise dispose de solides capacités d'IA, son pouvoir organisationnel deviendra plus fort. Auparavant, il ne pouvait organiser que 1 000 personnes, mais maintenant il peut organiser 10 000, 100 000 ou 1 million de personnes. Par exemple, l'industrie chinoise de la livraison de nourriture s'appuie sur un ensemble complet de systèmes d'automatisation pour organiser un énorme groupe de passagers.
**Zhang Peng : À l'heure actuelle, l'IA est également le sujet le plus brûlant de la Silicon Valley. De nombreux entrepreneurs pensent à l'innovation commerciale avec de grands modèles comme noyau. KK a-t-il des observations à ce sujet ? **
Kevin Kelly : Cela me rappelle les débuts d'Internet. Lorsque Internet est apparu, tout d'un coup, toutes les entreprises ont réalisé qu'elles devaient se mettre sur Internet. Et maintenant, chaque entreprise profite de l'interface conversationnelle de l'IA, en introduisant de grands modèles de langage et l'intelligence artificielle pour faire des affaires. Un exemple est Wendy's, un fast-food à la mode qui utilise désormais une interface conversationnelle, permettant aux clients de commander de la nourriture dans la voiture et de parler à une machine.
Au-delà de cela, il existe des services et des idées entièrement nouveaux qui n'ont pas encore émergé. Je ne connais pas les chiffres exacts, mais ce que je sais avec certitude, c'est que des centaines de milliards de dollars affluent actuellement dans cet espace. Le plus souvent, la plupart d'entre eux ne réussiront probablement pas, mais un nombre suffisant d'entre eux le seront. Nous allons voir des choses assez étonnantes au cours des trois prochaines années, et des entreprises entièrement nouvelles qui pourraient devenir vraiment grandes.
**Zhang Peng : Au cours des 5 000 derniers jours, KK a fait de nombreuses prédictions correctes et a une vision prospective de nombreuses directions majeures. Récemment, vous avez prédit que les 5 000 prochains jours seraient l'une des périodes les plus critiques de l'histoire humaine. Où est la clé de ce nœud ? Dans quelle direction l'humanité mènera-t-elle à la croisée des chemins ? **
Kevin Kelly : Il se passe bien d'autres choses dans le monde en plus de l'intelligence artificielle. Nous sommes confrontés au défi du changement climatique, le génie génétique pointe à l'horizon, il est facile d'imaginer l'intelligence artificielle comme dégradante, il est facile de voir la surveillance devenir omniprésente et nous perdons le contrôle. Nous sommes confrontés à de nombreux défis et opportunités à l'échelle mondiale.
**Il s'agit d'une période de transition étroite et urgente, et nous devons la traverser. ** Je pense que nous pouvons accéder à ce portail étroit grâce à l'électrification, aux véhicules électriques, aux énergies alternatives et au succès du développement d'un nouveau vaccin de la couronne. À l'heure actuelle, il existe encore de nombreuses tensions et divisions politiques sur la planète, mais nous avons besoin d'une action collective et nous devons parvenir à un consensus dans les domaines de la technologie, de l'environnement, etc., et travailler ensemble pour résoudre les problèmes.
**C'est la première fois sur Terre que des cultures mondiales, des économies mondiales et des impacts environnementaux mondiaux apparaissent. C'est aussi notre chance de devenir une civilisation plus globale dans les 5000 prochains jours. **
Li Zhifei : KK a déclaré qu'au cours des 5 000 prochains jours, le monde aura de nombreux autres défis en plus de l'IA. Je pense que les 365 prochains jours sont également très importants du point de vue de l'IA. L'IA a traversé de nombreuses étapes, chaque fois que les gens ont des attentes élevées à son égard, mais cela ne fonctionne pas, puis les gens s'attendent à des valeurs élevées, et cela ne fonctionne plus. Je pense que la vague d'AGI d'aujourd'hui sera quelque chose que les gens de l'industrie trouveront génial, ou si elle deviendra une chose très importante dans la société, cela dépend dans une large mesure des 365 prochains jours.
Y compris comment développer le grand modèle, est-ce que le plus gros est le mieux, ou faut-il ajouter la multi-modalité, ou faut-il ajouter des solutions, etc. ? Y compris en regardant le taux de pénétration. À l'heure actuelle, moins de 5 % des personnes dans le monde ont peut-être utilisé ChatGPT. Comment pouvons-nous augmenter le taux de pénétration de 5 % à 20 % ? Y compris la réglementation, comment les humains doivent-ils gérer l'impact de l'IA sur la société ? Cela inclut également l'IA en plus d'être appliquée à des industries telles qu'Internet, comment devrait-elle être mise en œuvre dans des industries traditionnelles telles que les soins médicaux, l'automobile et la finance ? etc.
Je pense que cela peut prendre au moins un an pour que les gens fassent diverses tentatives avant de pouvoir avoir un jugement plus clair.
03 Les humains moyens ne sont pas nobles, nous voulons que l'IA soit meilleure que les humains moyens
**Zhang Peng : dans de nombreux cas, les humains ont tendance à faire confiance à la technologie. Par exemple, quelqu'un dormira dans une voiture autonome et provoquera un accident. Cette confiance subtile dans la technologie de pointe est-elle une habitude humaine ? Quelles sont les conséquences? **
Kevin Kelly : Les voitures autonomes ne sont pas parfaites, mais elles sont toujours meilleures que les humains pour conduire. Peut-on faire confiance à l'intelligence artificielle ? Lors de conversations avec des chatbots, nous avons constaté que leurs réponses n'étaient pas exactes, nous ne pouvions donc pas leur faire entièrement confiance. Mais je pense que nous allons commencer à nous en occuper bientôt.
De nos jours, la plupart des gens font confiance à leurs calculatrices. Vous lui donnez des chiffres, il vous donne des réponses et vous lui faites entièrement confiance. Nous savons donc que la machine est digne de confiance, et c'est quelque chose qui peut être amélioré. ** Et les préjugés sur l'IA parce qu'ils sont formés en moyenne des humains racistes, sexistes, malveillants, ne sont pas nobles. Nous voulons en fait que notre IA soit meilleure que les humains. **
Tout comme une calculatrice est meilleure qu'un humain moyen, vous devriez vous fier davantage aux réponses que la calculatrice vous donne qu'à l'humain moyen. **La confiance est quelque chose sur laquelle nous devrions nous concentrer et travailler, bien qu'il y ait de nombreux défis, mais en fin de compte, je pense que nous nous fierons fortement à l'intelligence artificielle et aux machines. **
**Zhang Peng : Récemment, de nombreuses personnes aux États-Unis pensent que le développement de l'IA est trop rapide et qu'elles devraient ralentir ou même s'arrêter et y réfléchir. Êtes-vous d'accord avec cette idée? **
Kevin Kelly : Non, je ne le soutiens pas. Je pense que c'est trompeur, trompeur et inutile. Je ne pense pas que ce soit vraiment possible, ni conseillé.
**Zhang Peng : Dans la plupart des films de science-fiction ou des romans d'êtres humains, l'IA est un personnage relativement sombre. Est-ce parce que les êtres humains manquent d'imagination ou avons-nous trop d'imaginations erronées ? **
**Kevin Kelly : Hollywood a toujours dépeint l'intelligence artificielle comme dystopique, horrible et indésirable, ce qui, à mon avis, est un manque d'imagination. Parce que c'est une loi de l'univers qu'il est beaucoup plus facile d'imaginer comment quelque chose échouera que comment cela réussira. ** Honnêtement, il est difficile pour les gens d'imaginer un monde merveilleux dans 100 ans où l'IA est omniprésente, bon marché et bénéfique pour l'humanité, même si c'est le monde dans lequel nous voulons vivre.
De plus, ces studios sont très doués pour raconter des histoires, et les éléments d'une belle histoire sont les conflits, les catastrophes et certains éléments forts. Qu'il s'agisse de guerres, d'ouragans ou d'intelligence artificielle essayant de détruire le monde. Par conséquent, il est peu probable que nous voyions une vision en rose de l'intelligence artificielle dans un film hollywoodien car elle ne contribue pas à l'histoire, même si la possibilité existe, mais elle est très petite.
Par conséquent, nous ne pouvons pas regarder l'intelligence artificielle à travers l'impression d'Hollywood (films). Malheureusement, c'est ce que beaucoup de gens font. Quand il s'agit d'intelligence artificielle, ils pensent à "Terminator", "2001 Space Odyssey" et "HER".
Li Zhifei : Je pense que toute méfiance est due à l'ignorance. Face à la nouvelle espèce d'AGI, je ne comprends pas comment ses capacités émergent, ce qu'elle veut et ce qu'elle peut faire.
Je pense que ce que les humains peuvent faire, d'une part, est de mieux comprendre l'AGI, et d'autre part, d'apprendre à laisser l'AGI s'expliquer clairement. Par exemple, lorsqu'il vous donne une réponse, vous le laissez parler du processus de travail intérieur et du monologue intérieur. Cela peut créer un sentiment de confiance plus fort. **
**Zhang Peng : Pour KK, il semble que le « Tao Te Ching » de Lao Tseu vous ait beaucoup inspiré. Vous avez mentionné que "le niveau de contrôle le plus élevé est hors de contrôle, et le niveau de contrôle le plus bas consiste à tout contrôler". Que pensez-vous de la récente augmentation de la réglementation gouvernementale et technologique de l'IA ? **
Kevin Kelly : Je ne pense pas que la réglementation actuelle soit bonne. Bien sûr, la réglementation est importante et nécessaire, elle est nécessaire pour assurer le bon déroulement des choses, maintenir des règles du jeu équitables et assurer la sécurité. Mais une réglementation prématurée fait peur. Le problème en ce moment, c'est qu'on essaie de réglementer quelque chose qu'on ne connaît pas très bien, et ça mène généralement au désastre.
**Li Zhifei :**Pourquoi y a-t-il une surveillance ? Fondamentalement, ce sont les gens qui craignent que l'impact négatif de l'AGI ne l'emporte sur le positif, qu'il soit trop capable et socialement inacceptable. Mais à ce stade, ce jugement est erroné. Car aujourd'hui, l'impact positif de l'AGI doit être supérieur à son impact négatif.
Deuxièmement, le vrai problème avec AGI aujourd'hui est qu'il n'est pas assez puissant. Y compris la capacité de planification, la capacité d'intégration avec le monde physique, la capacité d'auto-évolution, etc. Bien que nous ayons vu l'espoir, il est encore très loin de la réalisation réelle. Nous n'y arriverons peut-être jamais.
Donc mon point est, ** Nous ne pouvons pas simplement voir la tendance AGI et ensuite augmenter considérablement la réglementation. Cela peut nous permettre de tuer AGI avant même de l'avoir atteint. Une surveillance est certainement nécessaire, mais elle ne devrait pas être trop réglementée. **
**Zhang Peng : L'intelligence artificielle fait parler d'elle depuis de nombreuses années, et il semble maintenant qu'elle entre dans une nouvelle ère. Si l'IA a vraiment une chance de devenir une forme de vie dotée d'une intelligence supérieure à celle des êtres humains à l'avenir, devrions-nous les intégrer dans la civilisation humaine ou les placer sous contrôle humain ? De quelle manière peut vraiment améliorer la civilisation humaine ? **
**Kevin Kelly : Je pense qu'il existe un cadre très utile pour comprendre l'intelligence artificielle (IA) du futur - pas l'IA d'aujourd'hui telle qu'elle est comparée à l'IA des 30, 50 ou 100 prochaines années , Ce n'est pas assez compliqué - c'est le traiter comme un extraterrestre artificiel d'une autre planète. **
Beaucoup d'IA seront une espèce que nous n'avons jamais vue auparavant, pensant différemment des humains. Ils seront aussi intelligents que Yoda (le personnage virtuel de "Star Wars") ou Spock (le personnage virtuel de "Star Trek"), et surpasseront même les humains à certains égards. Nous créerions de nombreux types différents d'extraterrestres artificiels, les respecterions et utiliserions leurs différentes intelligences pour nous aider à résoudre des problèmes difficiles, comme comprendre ce qu'est réellement la gravité quantique.
Mais nous ne leur céderons pas le contrôle. Si nous n'aimons pas leur comportement, nous les renvoyons, les fermons. Nous pouvons leur enlever leur pouvoir si nous pensons qu'ils ont acquis trop de pouvoir. Nous ne voulons pas que l'IA décide de notre sort.
Li Zhifei : L'AGI actuel est comme un papillon, après avoir obtenu beaucoup de nutriments des larves, il complète sa propre sublimation. Cela équivaut à utiliser toutes les connaissances Internet des êtres humains dans le passé pour mener à bien leur propre transformation. À l'avenir, l'IA surpassera certainement les humains à bien des égards. Je pense que les êtres humains peuvent être les ancêtres de l'IA, et c'est plutôt heureux.
KK a dit que nous devons traiter l'IA comme un extraterrestre, ce qui ressemble plus à un contrôle. ** Je pense que les humains peuvent trop surestimer leurs capacités ou leur QI. Vous pouvez imaginer que, par exemple, dans 50 ans, parmi les 100 agents les plus puissants et les plus influents du monde, peut-être seulement 20 seront des humains, et les 80 restants seront des IA. Donc je pense qu'en fin de compte, les humains et l'IA doivent être une fusion, pas un contrôle. **