La Silicon Valley discute avec passion de la "singularité" de l'intelligence artificielle : l'ère des machines surpassant les humains est-elle arrivée ?
Note de l'éditeur : L'émergence de l'intelligence artificielle a poussé le concept de "singularité" au premier plan. De nombreuses personnes dans la Silicon Valley pensent que l'intelligence artificielle va complètement changer la société humaine. Cependant, il existe également des inquiétudes quant aux conséquences négatives potentielles de l'IA, y compris la possibilité qu'elle puisse détruire l'humanité. Cet article est issu d'une compilation, dans laquelle l'auteur aborde le concept de "singularité", discute de l'enthousiasme et des préoccupations de la Silicon Valley concernant l'intelligence artificielle, et met en évidence les avantages et les risques potentiels de cette technologie.
Source de l'image : générée par l'IA illimitée
se concentrer
La singularité, le moment où la technologie et l'intelligence artificielle changent radicalement le monde, est un concept très attendu mais qui terrifie aussi la Silicon Valley.
Bien que l'impact positif potentiel de l'intelligence artificielle suscite de l'enthousiasme, on craint également qu'elle n'ait des conséquences désastreuses pour l'humanité.
Actuellement, une grande partie de l'attention de l'IA et de Singularity a été sur le développement de grands modèles de langage, mais il y a encore un débat sur la question de savoir si ces modèles représentent vraiment la croissance exponentielle de l'intelligence promise par Singularity.
Depuis des décennies, la Silicon Valley anticipe l'émergence d'une nouvelle technologie qui révolutionnera les modes de vie humains, les économies, les institutions sociales, etc. Il peut rapprocher les humains et les machines, apportant éventuellement des opportunités et des défis sans précédent, et divisant l'histoire en deux époques "avant" et "après".
Le nom de ce jalon peut être appelé "Singularité".
Note du traducteur : "Singularité" est un concept proposé par l'écrivain de science-fiction américain Vernor Vinge (Vernor Vinge), qui fait référence à un événement ou une situation possible dans le futur, c'est-à-dire que l'intelligence de l'intelligence artificielle dépasse celle des êtres humains. Le niveau d'intelligence, déclenchant ainsi des changements explosifs dans la technologie et la société, rendant ce qui se passera dans le futur difficile à prévoir et à comprendre.
Les singularités peuvent survenir de plusieurs façons. Une possibilité est que les gens se sont rendus plus puissants en incorporant la puissance de traitement des ordinateurs à leur propre intelligence innée. Ou bien, l'ordinateur peut devenir si complexe qu'il peut réellement penser, créant ainsi un "cerveau global".
L'un ou l'autre scénario apportera des changements drastiques et exponentiels, dont aucun ne pourra être inversé. Une machine superintelligente consciente d'elle-même capable de se concevoir, de s'améliorer et de se mettre à niveau beaucoup plus rapidement que n'importe quelle équipe de scientifiques déclencherait sûrement une explosion intellectuelle. Les progrès réalisés au cours des siècles passés peuvent être révolutionnaires en quelques années, voire quelques mois. La singularité est une catapulte dans le futur.
Aujourd'hui, l'intelligence artificielle fait des vagues sans précédent dans la technologie, les affaires et la politique. À en juger par toutes les hyperboles et absurdités qui sortent de la Silicon Valley, il semble que cet avenir extrêmement rose soit enfin là.
Sundar Pichai, PDG de Google, généralement discret, a déclaré que "l'intelligence artificielle a dépassé le feu, l'électricité ou toutes les réalisations technologiques passées en importance et en impact". L'investisseur milliardaire Reid Hoffman (Reid Hoffman) a déclaré: "Le monde inaugurera une force sans précédent, qui fera avancer toute la société humaine." Le co-fondateur de Microsoft, Bill Gates (Bill Gates) ) a déclaré que l'intelligence artificielle "changera la façon dont les gens travaillent, apprennent, voyagent, se font soigner et communiquent entre eux ».
L'intelligence artificielle est le nouveau produit ultime de la Silicon Valley, capable de capacités surhumaines à la demande.
Mais il y a aussi un problème caché qui ne peut être ignoré. C'est comme si les entreprises technologiques déployaient des voitures autonomes avec un message d'avertissement indiquant qu'elles pourraient exploser sur le chemin de Walmart.
En mai de cette année, Elon Musk, le patron de Tesla et de Twitter, a déclaré dans une interview accordée à la chaîne US Consumer News and Business Channel (CNBC) : « L'émergence de l'intelligence artificielle générale s'appelle un miracle. Le fait est qu'après cela , il sera difficile de prédire ce qui se passera ensuite." Il estime que nous inaugurerons "un âge d'abondance" (un âge d'abondance), mais le risque que l'intelligence artificielle "détruise l'humanité" est "encore inacceptable". ".
Dans le monde de la technologie, le plus fervent partisan de l'intelligence artificielle est Sam Altman, PDG de la société américaine d'intelligence artificielle OpenAI. Le chatbot ChatGPT de la startup, lancé l'année dernière, a également suscité un enthousiasme continu. Altman a déclaré que l'IA sera "la plus grande force d'autonomisation économique et de richesse pour beaucoup".
Cependant, pour Musk, qui a fondé la société qui développe la technologie d'interface cerveau-ordinateur, il estime également que la critique de Musk est justifiée.
Il n'y a pas si longtemps, Altman a signé une lettre ouverte conjointe parrainée par l'association à but non lucratif "Center for AI Safety" (Center for AI Safety). "Prévenir le risque d'extinction posé par l'intelligence artificielle devrait être une priorité mondiale", au même titre que "les pandémies et la guerre nucléaire", indique la lettre. Parmi les autres signataires figurent des collègues de la société OpenAI et des informaticiens de Microsoft et Google.
Sam Altman, PDG d'OpenAI, une société américaine d'intelligence artificielle, est le plus fervent partisan de l'intelligence artificielle. Source de l'image : Haiyun Jiang
L'apocalypse est un sujet familier, voire populaire, dans la Silicon Valley. Il y a quelques années, presque tous les dirigeants de la technologie semblaient avoir construit un abri apocalyptique quelque part au milieu de nulle part, bien approvisionné au cas où ils en auraient besoin. En 2016, Altman a également déclaré qu'il "avait fait le plein d'armes à feu, d'or, d'iodure de potassium, d'antibiotiques, de piles, d'eau, de masques à gaz des FDI et avait construit un abri massif à Big Sur dans lequel vous pouvez voler directement". a fait que ces survivants de la technologie se sentent justifiés, au moins pendant un certain temps.
Maintenant, ils préparent l'arrivée de la singularité.
À cet égard, Baldur Bjarnason, auteur de "The Intelligence Illusion", a déclaré : "Ils pensent qu'ils sont très sages, mais leurs paroles ressemblent plus à 1000 après JC. Des moines parlent d'apocalypse. C'est un peu inquiétant."
Origine de "Au-delà"
Les origines du concept de "singularité" remontent au pionnier de l'informatique John von Neumann dans les années 1950. Von Neumann a un jour prédit que "l'accélération constante des progrès de la technologie" conduirait à "une singularité essentielle dans l'histoire humaine".
Le pionnier de l'informatique John von Neumann. Crédit image : Getty Images
Le mathématicien britannique Irving John Good était également un fervent partisan de ce point de vue. Il a aidé le gouvernement britannique à casser la machine de chiffrement allemande Enigma à Bletchley Park (Bletchley Park, le principal endroit où le gouvernement britannique a effectué le décodage pendant la Seconde Guerre mondiale). En 1964, il écrivait : "La construction précoce de machines superintelligentes est la clé de la survie de l'humanité."
Lorsque le réalisateur américain Stanley Kubrick a réalisé le tournage du film de science-fiction 2001 : L'Odyssée de l'espace, il a demandé à Goode des conseils sur HAL, le personnage d'intelligence artificielle bien devenu malveillant du film, un des premiers exemples de la frontière floue entre l'informatique et la science-fiction.
Hans Moravec, professeur adjoint à l'Institut de robotique de l'Université Carnegie Mellon, estime que l'avènement de la Singularité ne profitera pas seulement aux vivants, mais ramènera également les morts à la vie.
"Nous aurons l'opportunité de recréer et d'interagir avec le passé de manière réelle et immédiate", écrit-il dans Mind Children : The Future of Robot and Human Intelligence.
L'entrepreneur et inventeur Ray Kurzweil a également été le plus grand défenseur de la Singularité ces dernières années. Kurzweil est l'auteur de The Age of Intelligent Machines en 1990 et The Singularity Is Near en 2005. Kurzweil écrit actuellement le livre The Singularity Is Near.
Il prédit que d'ici la fin de cette décennie, les ordinateurs passeront le test de Turing et seront indiscernables des humains. Encore quinze ans plus tard, la véritable transcendance viendra : "Lorsque la technologie informatique sera intégrée en nous, notre intelligence sera grandement améliorée, peut-être des centaines de fois."
Kurzweil aurait alors 97 ans. Avec l'aide de diverses vitamines et suppléments, il espère qu'il vivra pour voir cette ère venir.
L'entrepreneur et inventeur Ray Kurzweil est également le plus grand défenseur de la Singularité. Crédit : Friso Gentsch/Picture Alliance
Certains détracteurs de la Singularité estiment que le concept de Singularité tente de créer un système de croyance dans le domaine du logiciel qui s'apparente à une croyance religieuse organisée.S'appuyant sur des preuves scientifiques rigoureuses, il est difficile d'être convaincant.
"Ils veulent tous l'immortalité, mais ils ne veulent pas croire en" Dieu "", a déclaré Rodney Brooks, ancien directeur du laboratoire d'informatique et d'intelligence artificielle du MIT.
Aujourd'hui, les innovations de la polémique « Singularité » concernent principalement les grands modèles de langage (LLM), le système d'intelligence artificielle qui est aussi au cœur du développement des chatbots. Parlez à ces grands modèles de langage, et ils peuvent répondre aux questions rapidement, de manière cohérente et souvent des réponses assez éclairantes.
Selon Jerry Kaplan, un entrepreneur de longue date en intelligence artificielle et auteur de Intelligence artificielle : ce que tout le monde doit savoir, "Lorsque vous demandez à un grand modèle de langage, il comprend enfin le sens de la question, détermine quelle devrait être la réponse, puis présente le répondre par écrit. Si ce n'est pas la définition de l'intelligence générale, quelle est-elle ?"
Kaplan a également déclaré qu'il était sceptique à l'égard des technologies de pointe telles que les voitures sans conducteur et les crypto-monnaies. De même, il était auparavant sceptique quant au dernier engouement pour l'IA, mais a commencé à changer d'avis sur l'IA après avoir vu le potentiel qu'elle présente.
"Si ce n'est pas la" singularité ", alors c'est certainement le cas. C'est une technologie d'un impact énorme qui fera considérablement progresser l'humanité dans les arts, les sciences et la connaissance. Et, bien sûr, cela soulèvera des problèmes", a-t-il déclaré. ajoutée.
Les critiques rétorquent que même si les grands modèles de langage obtiennent des résultats impressionnants, cela ne peut pas correspondre à la vaste intelligence globale représentée par la Singularité. Une partie du problème pour tracer la ligne entre le battage médiatique et la réalité est que les principes et les algorithmes qui animent cette technologie deviennent de plus en plus difficiles à révéler.
OpenAI a commencé comme une organisation à but non lucratif utilisant du code open source, mais s'est depuis transformée en une entreprise à but lucratif. Certains critiques soulignent qu'OpenAI est désormais une "boîte noire" et qu'il est difficile pour tout le monde de comprendre son fonctionnement interne. À cet égard, Google et Microsoft ont également un faible degré de divulgation d'informations.
Une grande partie de la recherche actuelle sur l'intelligence artificielle est menée par des entreprises qui devraient bénéficier des résultats. Une version préliminaire du dernier modèle d'OpenAI "démontre de multiples fonctionnalités intelligentes", notamment "la capacité abstraite, la compréhension, la capacité visuelle, la capacité de codage" et "la capacité à comprendre la motivation et l'émotion humaines".
Rylan Schaeffer, doctorant en informatique à l'Université de Stanford, affirme que certains chercheurs en intelligence artificielle se sont trompés dans la description de la "puissance émergente" présentée par ces grands modèles de langage. Bien que ces grands modèles de langage aient des fonctionnalités inconnues et difficiles à interpréter, ces fonctionnalités ne sont pas apparentes ou présentes dans les versions plus petites des modèles de langage.
Schafer et deux autres collègues de Stanford, Brando Miranda et Sanmi Koyejo, ont examiné la question dans un article de recherche publié en mai, concluant que cette capacité émergente n'est qu'une "illusion" causée par des erreurs de mesure, et non due à l'augmentation de la taille et de la complexité du modèle. . En fait, les chercheurs peuvent être enclins à voir les résultats qu'ils veulent voir.
Immortalité, Immortalité
À Washington, Londres et Bruxelles, les législateurs commencent à reconnaître les opportunités et les problèmes posés par l'intelligence artificielle et commencent à discuter des questions réglementaires. Altman fait une tournée promotionnelle pour OpenAI, visant à éliminer les premières critiques tout en faisant de son entreprise un leader à l'ère de la singularité.
Cela implique d'être ouvert à la réglementation, mais la forme spécifique de réglementation n'est pas encore claire. Pourtant, il existe une perception largement répandue dans la Silicon Valley selon laquelle les agences gouvernementales sont inefficaces et manquent d'expertise pour réglementer efficacement le secteur technologique en évolution rapide.
"Il n'y a personne dans l'agence gouvernementale qui réussit", a déclaré l'ancien PDG de Google, Eric Schmidt, au talk-show "Meet the Press" plus tôt cette année, et a avancé l'idée d'une autorégulation de l'intelligence artificielle. "Mais l'industrie a la capacité au sein de l'industrie d'appliquer à peu près la réglementation", a-t-il ajouté.
L'intelligence artificielle, comme la singularité technologique, est vue comme irréversible dans les changements qu'elle apporte. Altman et ses collègues ont récemment déclaré que "des mécanismes de contrôle similaires au système de réglementation mondial doivent être établis pour freiner le développement ultérieur de l'intelligence artificielle, mais même cela ne peut garantir le succès." Si vous ne le faites pas, il doit y avoir quelqu'un d'autre qui le fait il.
Cependant, les énormes profits générés par celui-ci sont rarement discutés à l'heure actuelle. Malgré la perception populaire selon laquelle l'intelligence artificielle est une machine qui crée une richesse illimitée, ce sont essentiellement les déjà riches qui en profitent réellement.
Cette année, la valeur marchande de Microsoft a grimpé de 5 000 milliards de dollars. Nvidia, qui fabrique des puces pour les systèmes qui exécutent l'intelligence artificielle, est également récemment devenue l'une des sociétés publiques les plus précieuses aux États-Unis en raison d'une augmentation de la demande de puces.
"L'intelligence artificielle est la technologie que la société humaine a toujours souhaité avoir", a tweeté Altman.
Il est indéniable qu'il s'agit bien d'une technologie que le monde de la technologie attendait, et elle arrive à point nommé.
L'année dernière, la Silicon Valley a subi un double coup dur de licenciements et de hausse des taux d'intérêt, tandis que les crypto-monnaies, après une période de boom et de récession, ont rapidement décliné en raison de la fraude et de la déception qui a suivi.
"Suivez l'argent", déclare Charles Stross, co-auteur de The Rapture of the Nerds, un roman de science-fiction qui dépeint avec humour la singularité technologique. Stross est également l'auteur du roman de science-fiction Accelerando, dans lequel lui aussi brosse un tableau plus sérieux et sérieux de ce à quoi pourrait ressembler la vie dans le futur.
"La véritable opportunité est que les entreprises seront en mesure de remplacer de nombreuses unités de traitement de l'information défectueuses, coûteuses, insensibles et actionnées par l'homme par des logiciels, réduisant ainsi les coûts et augmentant l'efficacité", a-t-il déclaré.
Pendant longtemps, les gens ont imaginé la singularité technologique comme un événement à impact global, qui peut complètement subvertir le système cognitif humain, et la puissance de ce changement est incroyable. Pour l'instant, cette possibilité existe toujours.
Cependant, en partie à cause de la poursuite extrême des bénéfices des entreprises dans la Silicon Valley aujourd'hui, cela conduira à utiliser la singularité technologique comme un outil de licenciement en premier lieu. Dans la poursuite d'une capitalisation boursière de mille milliards de dollars, des problèmes mineurs peuvent être mis de côté pour le moment.
Voir l'original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
La Silicon Valley discute avec passion de la "singularité" de l'intelligence artificielle : l'ère des machines surpassant les humains est-elle arrivée ?
Source originale : 36 kryptons
Note de l'éditeur : L'émergence de l'intelligence artificielle a poussé le concept de "singularité" au premier plan. De nombreuses personnes dans la Silicon Valley pensent que l'intelligence artificielle va complètement changer la société humaine. Cependant, il existe également des inquiétudes quant aux conséquences négatives potentielles de l'IA, y compris la possibilité qu'elle puisse détruire l'humanité. Cet article est issu d'une compilation, dans laquelle l'auteur aborde le concept de "singularité", discute de l'enthousiasme et des préoccupations de la Silicon Valley concernant l'intelligence artificielle, et met en évidence les avantages et les risques potentiels de cette technologie.
Depuis des décennies, la Silicon Valley anticipe l'émergence d'une nouvelle technologie qui révolutionnera les modes de vie humains, les économies, les institutions sociales, etc. Il peut rapprocher les humains et les machines, apportant éventuellement des opportunités et des défis sans précédent, et divisant l'histoire en deux époques "avant" et "après".
Le nom de ce jalon peut être appelé "Singularité".
Les singularités peuvent survenir de plusieurs façons. Une possibilité est que les gens se sont rendus plus puissants en incorporant la puissance de traitement des ordinateurs à leur propre intelligence innée. Ou bien, l'ordinateur peut devenir si complexe qu'il peut réellement penser, créant ainsi un "cerveau global".
L'un ou l'autre scénario apportera des changements drastiques et exponentiels, dont aucun ne pourra être inversé. Une machine superintelligente consciente d'elle-même capable de se concevoir, de s'améliorer et de se mettre à niveau beaucoup plus rapidement que n'importe quelle équipe de scientifiques déclencherait sûrement une explosion intellectuelle. Les progrès réalisés au cours des siècles passés peuvent être révolutionnaires en quelques années, voire quelques mois. La singularité est une catapulte dans le futur.
Aujourd'hui, l'intelligence artificielle fait des vagues sans précédent dans la technologie, les affaires et la politique. À en juger par toutes les hyperboles et absurdités qui sortent de la Silicon Valley, il semble que cet avenir extrêmement rose soit enfin là.
Sundar Pichai, PDG de Google, généralement discret, a déclaré que "l'intelligence artificielle a dépassé le feu, l'électricité ou toutes les réalisations technologiques passées en importance et en impact". L'investisseur milliardaire Reid Hoffman (Reid Hoffman) a déclaré: "Le monde inaugurera une force sans précédent, qui fera avancer toute la société humaine." Le co-fondateur de Microsoft, Bill Gates (Bill Gates) ) a déclaré que l'intelligence artificielle "changera la façon dont les gens travaillent, apprennent, voyagent, se font soigner et communiquent entre eux ».
L'intelligence artificielle est le nouveau produit ultime de la Silicon Valley, capable de capacités surhumaines à la demande.
Mais il y a aussi un problème caché qui ne peut être ignoré. C'est comme si les entreprises technologiques déployaient des voitures autonomes avec un message d'avertissement indiquant qu'elles pourraient exploser sur le chemin de Walmart.
En mai de cette année, Elon Musk, le patron de Tesla et de Twitter, a déclaré dans une interview accordée à la chaîne US Consumer News and Business Channel (CNBC) : « L'émergence de l'intelligence artificielle générale s'appelle un miracle. Le fait est qu'après cela , il sera difficile de prédire ce qui se passera ensuite." Il estime que nous inaugurerons "un âge d'abondance" (un âge d'abondance), mais le risque que l'intelligence artificielle "détruise l'humanité" est "encore inacceptable". ".
Dans le monde de la technologie, le plus fervent partisan de l'intelligence artificielle est Sam Altman, PDG de la société américaine d'intelligence artificielle OpenAI. Le chatbot ChatGPT de la startup, lancé l'année dernière, a également suscité un enthousiasme continu. Altman a déclaré que l'IA sera "la plus grande force d'autonomisation économique et de richesse pour beaucoup".
Cependant, pour Musk, qui a fondé la société qui développe la technologie d'interface cerveau-ordinateur, il estime également que la critique de Musk est justifiée.
Il n'y a pas si longtemps, Altman a signé une lettre ouverte conjointe parrainée par l'association à but non lucratif "Center for AI Safety" (Center for AI Safety). "Prévenir le risque d'extinction posé par l'intelligence artificielle devrait être une priorité mondiale", au même titre que "les pandémies et la guerre nucléaire", indique la lettre. Parmi les autres signataires figurent des collègues de la société OpenAI et des informaticiens de Microsoft et Google.
L'apocalypse est un sujet familier, voire populaire, dans la Silicon Valley. Il y a quelques années, presque tous les dirigeants de la technologie semblaient avoir construit un abri apocalyptique quelque part au milieu de nulle part, bien approvisionné au cas où ils en auraient besoin. En 2016, Altman a également déclaré qu'il "avait fait le plein d'armes à feu, d'or, d'iodure de potassium, d'antibiotiques, de piles, d'eau, de masques à gaz des FDI et avait construit un abri massif à Big Sur dans lequel vous pouvez voler directement". a fait que ces survivants de la technologie se sentent justifiés, au moins pendant un certain temps.
Maintenant, ils préparent l'arrivée de la singularité.
À cet égard, Baldur Bjarnason, auteur de "The Intelligence Illusion", a déclaré : "Ils pensent qu'ils sont très sages, mais leurs paroles ressemblent plus à 1000 après JC. Des moines parlent d'apocalypse. C'est un peu inquiétant."
Origine de "Au-delà"
Les origines du concept de "singularité" remontent au pionnier de l'informatique John von Neumann dans les années 1950. Von Neumann a un jour prédit que "l'accélération constante des progrès de la technologie" conduirait à "une singularité essentielle dans l'histoire humaine".
Le mathématicien britannique Irving John Good était également un fervent partisan de ce point de vue. Il a aidé le gouvernement britannique à casser la machine de chiffrement allemande Enigma à Bletchley Park (Bletchley Park, le principal endroit où le gouvernement britannique a effectué le décodage pendant la Seconde Guerre mondiale). En 1964, il écrivait : "La construction précoce de machines superintelligentes est la clé de la survie de l'humanité."
Lorsque le réalisateur américain Stanley Kubrick a réalisé le tournage du film de science-fiction 2001 : L'Odyssée de l'espace, il a demandé à Goode des conseils sur HAL, le personnage d'intelligence artificielle bien devenu malveillant du film, un des premiers exemples de la frontière floue entre l'informatique et la science-fiction.
Hans Moravec, professeur adjoint à l'Institut de robotique de l'Université Carnegie Mellon, estime que l'avènement de la Singularité ne profitera pas seulement aux vivants, mais ramènera également les morts à la vie.
"Nous aurons l'opportunité de recréer et d'interagir avec le passé de manière réelle et immédiate", écrit-il dans Mind Children : The Future of Robot and Human Intelligence.
L'entrepreneur et inventeur Ray Kurzweil a également été le plus grand défenseur de la Singularité ces dernières années. Kurzweil est l'auteur de The Age of Intelligent Machines en 1990 et The Singularity Is Near en 2005. Kurzweil écrit actuellement le livre The Singularity Is Near.
Il prédit que d'ici la fin de cette décennie, les ordinateurs passeront le test de Turing et seront indiscernables des humains. Encore quinze ans plus tard, la véritable transcendance viendra : "Lorsque la technologie informatique sera intégrée en nous, notre intelligence sera grandement améliorée, peut-être des centaines de fois."
Kurzweil aurait alors 97 ans. Avec l'aide de diverses vitamines et suppléments, il espère qu'il vivra pour voir cette ère venir.
Certains détracteurs de la Singularité estiment que le concept de Singularité tente de créer un système de croyance dans le domaine du logiciel qui s'apparente à une croyance religieuse organisée.S'appuyant sur des preuves scientifiques rigoureuses, il est difficile d'être convaincant.
"Ils veulent tous l'immortalité, mais ils ne veulent pas croire en" Dieu "", a déclaré Rodney Brooks, ancien directeur du laboratoire d'informatique et d'intelligence artificielle du MIT.
Aujourd'hui, les innovations de la polémique « Singularité » concernent principalement les grands modèles de langage (LLM), le système d'intelligence artificielle qui est aussi au cœur du développement des chatbots. Parlez à ces grands modèles de langage, et ils peuvent répondre aux questions rapidement, de manière cohérente et souvent des réponses assez éclairantes.
Selon Jerry Kaplan, un entrepreneur de longue date en intelligence artificielle et auteur de Intelligence artificielle : ce que tout le monde doit savoir, "Lorsque vous demandez à un grand modèle de langage, il comprend enfin le sens de la question, détermine quelle devrait être la réponse, puis présente le répondre par écrit. Si ce n'est pas la définition de l'intelligence générale, quelle est-elle ?"
Kaplan a également déclaré qu'il était sceptique à l'égard des technologies de pointe telles que les voitures sans conducteur et les crypto-monnaies. De même, il était auparavant sceptique quant au dernier engouement pour l'IA, mais a commencé à changer d'avis sur l'IA après avoir vu le potentiel qu'elle présente.
"Si ce n'est pas la" singularité ", alors c'est certainement le cas. C'est une technologie d'un impact énorme qui fera considérablement progresser l'humanité dans les arts, les sciences et la connaissance. Et, bien sûr, cela soulèvera des problèmes", a-t-il déclaré. ajoutée.
Les critiques rétorquent que même si les grands modèles de langage obtiennent des résultats impressionnants, cela ne peut pas correspondre à la vaste intelligence globale représentée par la Singularité. Une partie du problème pour tracer la ligne entre le battage médiatique et la réalité est que les principes et les algorithmes qui animent cette technologie deviennent de plus en plus difficiles à révéler.
OpenAI a commencé comme une organisation à but non lucratif utilisant du code open source, mais s'est depuis transformée en une entreprise à but lucratif. Certains critiques soulignent qu'OpenAI est désormais une "boîte noire" et qu'il est difficile pour tout le monde de comprendre son fonctionnement interne. À cet égard, Google et Microsoft ont également un faible degré de divulgation d'informations.
Une grande partie de la recherche actuelle sur l'intelligence artificielle est menée par des entreprises qui devraient bénéficier des résultats. Une version préliminaire du dernier modèle d'OpenAI "démontre de multiples fonctionnalités intelligentes", notamment "la capacité abstraite, la compréhension, la capacité visuelle, la capacité de codage" et "la capacité à comprendre la motivation et l'émotion humaines".
Rylan Schaeffer, doctorant en informatique à l'Université de Stanford, affirme que certains chercheurs en intelligence artificielle se sont trompés dans la description de la "puissance émergente" présentée par ces grands modèles de langage. Bien que ces grands modèles de langage aient des fonctionnalités inconnues et difficiles à interpréter, ces fonctionnalités ne sont pas apparentes ou présentes dans les versions plus petites des modèles de langage.
Schafer et deux autres collègues de Stanford, Brando Miranda et Sanmi Koyejo, ont examiné la question dans un article de recherche publié en mai, concluant que cette capacité émergente n'est qu'une "illusion" causée par des erreurs de mesure, et non due à l'augmentation de la taille et de la complexité du modèle. . En fait, les chercheurs peuvent être enclins à voir les résultats qu'ils veulent voir.
Immortalité, Immortalité
À Washington, Londres et Bruxelles, les législateurs commencent à reconnaître les opportunités et les problèmes posés par l'intelligence artificielle et commencent à discuter des questions réglementaires. Altman fait une tournée promotionnelle pour OpenAI, visant à éliminer les premières critiques tout en faisant de son entreprise un leader à l'ère de la singularité.
Cela implique d'être ouvert à la réglementation, mais la forme spécifique de réglementation n'est pas encore claire. Pourtant, il existe une perception largement répandue dans la Silicon Valley selon laquelle les agences gouvernementales sont inefficaces et manquent d'expertise pour réglementer efficacement le secteur technologique en évolution rapide.
"Il n'y a personne dans l'agence gouvernementale qui réussit", a déclaré l'ancien PDG de Google, Eric Schmidt, au talk-show "Meet the Press" plus tôt cette année, et a avancé l'idée d'une autorégulation de l'intelligence artificielle. "Mais l'industrie a la capacité au sein de l'industrie d'appliquer à peu près la réglementation", a-t-il ajouté.
L'intelligence artificielle, comme la singularité technologique, est vue comme irréversible dans les changements qu'elle apporte. Altman et ses collègues ont récemment déclaré que "des mécanismes de contrôle similaires au système de réglementation mondial doivent être établis pour freiner le développement ultérieur de l'intelligence artificielle, mais même cela ne peut garantir le succès." Si vous ne le faites pas, il doit y avoir quelqu'un d'autre qui le fait il.
Cependant, les énormes profits générés par celui-ci sont rarement discutés à l'heure actuelle. Malgré la perception populaire selon laquelle l'intelligence artificielle est une machine qui crée une richesse illimitée, ce sont essentiellement les déjà riches qui en profitent réellement.
Cette année, la valeur marchande de Microsoft a grimpé de 5 000 milliards de dollars. Nvidia, qui fabrique des puces pour les systèmes qui exécutent l'intelligence artificielle, est également récemment devenue l'une des sociétés publiques les plus précieuses aux États-Unis en raison d'une augmentation de la demande de puces.
"L'intelligence artificielle est la technologie que la société humaine a toujours souhaité avoir", a tweeté Altman.
Il est indéniable qu'il s'agit bien d'une technologie que le monde de la technologie attendait, et elle arrive à point nommé.
L'année dernière, la Silicon Valley a subi un double coup dur de licenciements et de hausse des taux d'intérêt, tandis que les crypto-monnaies, après une période de boom et de récession, ont rapidement décliné en raison de la fraude et de la déception qui a suivi.
"Suivez l'argent", déclare Charles Stross, co-auteur de The Rapture of the Nerds, un roman de science-fiction qui dépeint avec humour la singularité technologique. Stross est également l'auteur du roman de science-fiction Accelerando, dans lequel lui aussi brosse un tableau plus sérieux et sérieux de ce à quoi pourrait ressembler la vie dans le futur.
"La véritable opportunité est que les entreprises seront en mesure de remplacer de nombreuses unités de traitement de l'information défectueuses, coûteuses, insensibles et actionnées par l'homme par des logiciels, réduisant ainsi les coûts et augmentant l'efficacité", a-t-il déclaré.
Pendant longtemps, les gens ont imaginé la singularité technologique comme un événement à impact global, qui peut complètement subvertir le système cognitif humain, et la puissance de ce changement est incroyable. Pour l'instant, cette possibilité existe toujours.
Cependant, en partie à cause de la poursuite extrême des bénéfices des entreprises dans la Silicon Valley aujourd'hui, cela conduira à utiliser la singularité technologique comme un outil de licenciement en premier lieu. Dans la poursuite d'une capitalisation boursière de mille milliards de dollars, des problèmes mineurs peuvent être mis de côté pour le moment.