Fondateur d'OpenAI : Nous sommes une organisation très soucieuse de la vérité

Source : Magazine des entrepreneurs chinois

Organisation｜Wu Ying

Source de l'image : générée par l'outil d'IA illimitée

Le 24 juillet, le PDG d'OpenAI, Sam Altman (Sam Altman, ci-après dénommé "Altman") a lancé WorldCoin, un projet de crypto-monnaie développé depuis de nombreuses années, qui a de nouveau attiré l'attention. Altman, comme il le prétend, travaille dur pour une vie meilleure pour les humains dans un monde d'IA.

Il y a trois mois, Sam Altman et le co-fondateur d'OpenAI, Greg Brockman (Greg Brockman, ci-après dénommé "Brockman") ont accepté une interview avec le podcast américain. Au cours de l'entretien, les deux personnalités clés d'OpenAI ont expliqué leur point de vue sur l'IA, ainsi que l'impact de l'IA sur diverses industries, les problèmes de sécurité et la structure de leurs investissements en dehors de l'IA.

Lorsque les deux ont expliqué la vision d'OpenAI, ils ont convenu qu'ils souhaitaient développer une AGI (intelligence artificielle générale) bénéfique et sûre pour toute l'humanité. En ce qui concerne les problèmes de sécurité de l'IA très débattus, ils ont également reconnu les risques et ont déclaré qu'ils travaillaient dur pour les surmonter. En outre, les deux hommes ont également parlé d'investissements dans d'autres domaines. Par exemple, Altman s'intéresse particulièrement à l'industrie de l'énergie propre, tandis que Brockman s'intéresse aux industries médicales et éducatives.

Voici les points saillants de l'interview :

1. Nous travaillons dur pour développer une intelligence artificielle générale bénéfique et sûre pour toute l'humanité.

2. Fondamentalement, ce que nous voulons, c'est fournir cette technologie à tout le monde, supprimer les obstacles à la création, accomplir de nouvelles tâches et pousser les humains à résoudre les problèmes qui les intéressent vraiment.

3. Nous ne nous arrêtons plus seulement au stade de la connaissance primitive, mais passons au deuxième stade - guider la machine pour qu'elle accomplisse les tâches que nous lui confions et fonctionne selon les valeurs sociales.

4. Nous avons construit une culture d'attention aux détails et d'essayer de bien faire les choses qui attire des recherches scientifiques et d'ingénierie très minutieuses de la part de ceux qui veulent travailler de cette façon.

5. Je pense qu'une énergie abondante et propre peut apporter d'autres avantages que la simple résolution de la crise climatique, et qu'investir dans l'énergie est une chose plus importante que d'investir dans tout autre intrant auquel je peux penser. Financer un changement fondamental du coût d'acquisition de l'énergie est une excellente chose.

6. L'IA est un outil de productivité pour tous qui rendra nos meilleurs scientifiques meilleurs et fera progresser la recherche scientifique.

** Quels secteurs l'IA affectera-t-elle au cours des 3 à 10 prochaines années ? **

**Modérateur :**Commençons par les questions les plus élémentaires. Pouvez-vous brièvement présenter quelle est la mission de votre OpenAI ? Quel est le but de toutes vos décisions ? **Altman : Nous travaillons dur pour développer une intelligence artificielle générale bénéfique et sûre pour tous les êtres humains. **C'est un projet sans précédent, je sais combien il est difficile de le faire, nous ferons beaucoup d'erreurs en cours de route, mais c'est dans cette direction que nous nous en tenons. Je crois fermement que l'IA sera la technologie la plus transformatrice jamais développée par les êtres humains, d'une certaine manière, elle nous aidera à développer toutes les technologies futures, et l'avenir est radieux.

Brockman : Il y a environ 8 ans, lorsque nous avons lancé OpenAI, je croyais vraiment que l'intelligence artificielle allait arriver, et je savais qu'il faudrait beaucoup de temps pour y parvenir, mais en pensant que nous avons la possibilité d'influencer cela technologie Je suis très excité par ma performance. Notre vision est que l'IAG est bénéfique pour toute l'humanité, et nous essayons d'atteindre cet objectif de différentes manières.

Au début, nous avions de tels idéaux, mais nous ne savions pas comment les combiner avec des actions pratiques. Après des années de travail acharné, nous avons compris comment construire un système qui fonctionne vraiment et comment intégrer nos valeurs dans ce système. Au cours des derniers mois, nous avons été ravis que notre technologie soit lentement devenue courante et que les gens commencent à récolter les bénéfices de notre technologie. **Cette technologie en est encore à ses débuts et il reste encore beaucoup à faire, mais nous croyons fermement que tout le monde devrait être impliqué et avoir la possibilité de s'exprimer. ** Déterminer comment parvenir à une gouvernance mondiale efficace est aussi important que le développement technologique.

Modérateur : Environ 1 milliard de personnes dans le monde appartiennent à la classe moyenne qui bénéficie de conditions économiques supérieures. Elles utilisent également librement l'IA pour travailler et étudier. Alors, comment l'IA peut-elle profiter aux 7 milliards de personnes restantes ?

**Brockman : Une caractéristique importante de l'IA que nous avons développée est qu'il n'y a pas de restrictions d'accès, et tout le monde peut accéder à cette technologie et l'utiliser, saisir ses préférences et ses commentaires dans le système, et l'utiliser pour améliorer sa vie, ce qui est l'intention initiale de notre développement de cette technologie. **

Maintenant, il y a beaucoup de questions sur le fonctionnement de cette technologie. Notre société a une structure particulière, c'est une organisation à but non lucratif, donc si le capital est fortement concentré dans OpenAI, il ne sera pas détenu par des actionnaires, mais détenu par la société, et éventuellement distribué dans le monde. Lorsque les bénéfices sont distribués dans le monde entier, le RUB (Revenu de Base Universel) peut être envisagé et les ressources allouées de cette manière. ** Fondamentalement, ce que nous voulons, c'est fournir cette technologie à tout le monde, supprimer les obstacles à la création, accomplir de nouvelles tâches et pousser les humains à résoudre les problèmes qui les intéressent vraiment. **

**Altman : Toute croissance économique véritablement durable découle du progrès technologique, et la gestion et la culture sociopolitiques peuvent nous aider à réaliser le progrès technologique. ** Par conséquent, nous avançons dans la manière d'aider les 7 milliards de personnes restantes. À l'avenir, notre technologie ira plus loin. Je crois que la technologie est la clé pour améliorer la qualité de vie de tous.

**Modérateur :**Quel type d'aide l'IA peut-elle apporter dans le domaine de l'éducation ?

Brockman : Si je n'avais pas créé une entreprise d'IA, j'aurais créé une entreprise d'enseignement de la programmation. Imaginez si l'avenir peut offrir aux enfants un enseignant qui les comprend vraiment, prend le temps de les connaître, sait les motiver, et que cet enseignant est disponible 24h/24 et 7j/7 gratuitement, n'est-ce pas sonne comme très bien.

Vous pouvez regarder des institutions comme Khan Academy [un établissement d'enseignement à but non lucratif], ils ont vraiment commencé à prendre GPT-4 et à le mettre dans la salle de classe, et ils ont compris comment canaliser cette technologie pour qu'elle devienne un mentor utile. Si les enfants lui demandaient de "m'aider à faire mes devoirs", il dirait "non, je ne peux pas faire ça". Et aussi essayer de comprendre ce qui intéresse les enfants et comment vraiment les motiver à en faire plus, et maintenant nous entrons dans la phase de comment en tirer le meilleur parti.

**Modérateur :**Beaucoup de gens peuvent dire qu'il existe maintenant Khan Academy et qu'il existe encore de nombreux cours en ligne, mais ce que vous proposez ne sont que des idées et il n'y a pas de produits réels. Pensez-vous que les personnes sans instruction ont encore besoin de vos produits ?

Brockman : La façon dont nous sommes actuellement éduqués passe par ces personnes intelligentes qui nous enseignent des connaissances et des méthodes de résolution de problèmes. À l'avenir, s'il existe une machine qui peut être plus intelligente que les humains, sera-t-elle possible ? Plus pratique . **Nous avons développé beaucoup d'assistants virtuels, comme Alexa (l'assistant intelligent lancé par Amazon) et Siri (l'assistant IA lancé par Apple), mais pour certains problèmes qui nécessitent une réflexion cérébrale, cela ne suffit toujours pas , nous avons besoin d'une technologie plus avancée pour améliorer notre capacité à penser et à résoudre des problèmes. **

Sans aucun doute, des fonctions comme GPT-4 ont été vues par tout le monde. les valeurs opèrent. **Toutes ces technologies sont actuellement étudiées et développées par nous. La prochaine phase de test de la technologie et des produits aura lieu au cours des prochaines années, à mesure que l'utilisation de la technologie continue de se développer.

**Modérateur :**Dans les 3 à 10 prochaines années, quels secteurs l'IA affectera-t-elle ?

Brockman : Je pense que cette technologie peut être appliquée au secteur juridique et qu'elle peut apporter de nombreux avantages en fournissant des services juridiques. Mon service préféré de GPT-3 est un outil appelé Augrented, qui aide les locataires qui reçoivent des avis d'expulsion à comprendre les problèmes de contrat. Parce qu'il y a beaucoup de gens dans ce groupe démographique qui n'ont pas nécessairement accès à un avocat, cette technologie peut les aider à faire des choses qu'ils ne pourraient pas faire autrement. C'est l'un des cas d'utilisation les plus efficaces que nous ayons vus.

Modérateur : Aujourd'hui, on dit sur le marché que l'IA amplifie l'intelligence humaine. Par exemple, GPT-4 peut être utilisé pour écrire un livre. Qu'en pensez-vous ?

Altman : Je suis tout à fait d'accord avec cette affirmation, et c'est la direction que nous faisons de notre mieux pour promouvoir. J'ai vu un tweet qui m'a frappé, ** Quelqu'un a dit qu'il n'aurait jamais pensé qu'il coexisterait avec une intelligence puissante comme GPT-4. ** Vous vous retrouverez profondément dans le domaine de l'AGI, et il s'avère que ** il est tout à fait possible de construire une IA vraiment douée pour amplifier la volonté humaine et nous rendre plus forts. **Cela rendra notre travail plus efficace et meilleur. De plus, il s'avère que les gens l'aiment vraiment. Pour moi, la chose la plus gratifiante à propos d'**OpenAI est que les gens aiment ses produits et en retirent toutes sortes d'avantages inattendus. **

"Nous sommes une organisation très soucieuse de la vérité"

Modérateur : Lorsque votre équipe OpenAI recherche et développe des produits d'IA tels que ChatGPT, avez-vous rencontré des surprises ?

**Brockman : La première surprise remonte à 2017. À l'époque, nous avons produit cet article intitulé "Les neurones émotionnels non supervisés", mais il n'a pas suscité beaucoup d'attention. Mais c'est une véritable percée pour nous, et nous devons vraiment poursuivre ce paradigme. ** Nous avons formé un modèle pour prédire le caractère suivant dans une revue Amazon, et il a pu apprendre où se trouvent les noms et où se trouvent les verbes, mais encore plus étonnant, il a appris une analyse et une classification des sentiments de pointe, qui peut dire si votre commentaire est positif ou négatif. Nous n'avons jamais dit à la machine la signification de ces langages, elle l'a en quelque sorte compris en effectuant cette tâche. ** L'apprentissage automatique n'est pas parfait, nous avons encore un long chemin à parcourir, il est encore tôt, mais nous pouvons commencer à résoudre des problèmes. **

C'est très significatif pour moi de permettre à plus de gens de ressentir la joie de programmer. Les personnes qui n'ont jamais programmé auparavant peuvent entrer sur le terrain, et ceux qui sont déjà de bons programmeurs peuvent effectuer des activités plus créatives. Atteindre cette capacité et ce niveau peut accélérer notre flux de travail de codage.

Modérateur : Pouvez-vous nous expliquer comment accélérer le codage ?

Brockman : Pendant le processus de codage, nous passons beaucoup de temps à nous rappeler exactement quelles bibliothèques font ce que vous recherchez, comment les implémenter et quels sont les paramètres. Et vous voulez construire un système ou une application, c'est une tâche avancée, le copilote précédent (outil de programmation assistant) n'est qu'un passe-partout, ils ne sont que par cœur. Maintenant, le modèle commence à s'améliorer, et si vous ne savez pas grand-chose sur un langage de programmation particulier, ou si vous ne connaissez pas un ensemble particulier de bibliothèques, le modèle vous le fournira avec plaisir. Et la chose intéressante à propos de GPT-4 est qu'il peut indiquer où l'encodage est erroné, et ces messages d'erreur sont parfois cryptés, et vous devez chercher des réponses, comme regarder divers sites Web, essayer de reconstituer à partir de ce que d'autres les gens ont dit, maintenant GPT-4 peut vous aider à résoudre ces problèmes.

**Modérateur :**Altman, quelle a été la surprise que vous avez ressentie ?

Altman : Je cite une citation de Noam Shazeer (fondateur de Character.AI) : "Nous n'expliquons pas pourquoi ces architectures semblent fonctionner, nous attribuons ces résultats à la miséricorde de Dieu." thème récurrent, **Je me considère comme un empiriste, je crois que si quelque chose fonctionne, plus vous le faites, mieux ce sera. ** Les "neurones affectifs non supervisés" que Greg vient de mentionner ont été une très grande surprise, et maintenant certaines des choses que GPT-4 commence à expliquer pourquoi l'IA devrait fonctionner. Je crois totalement en l'IA et je pense que ça ira loin. **Avant de lancer OpenAI, j'ai été étonné lorsque j'ai vu les résultats d'AlexNet (Convolutional Neural Network). **

Modérateur : Avec seulement quelques centaines de personnes, vous avez dépassé le niveau qui ne peut être atteint que par la plus grande entreprise technologique au monde. Cela demande beaucoup de travail et un peu de chance. Je suis curieux de savoir, qu'est-ce qui vous pousse à atteindre cet objectif ? Y a-t-il des leaders clés au sein d'OpenAI ?

**Altman : Nous faisons beaucoup de choses, certaines exprès, d'autres par chance. L'un des principaux facteurs est que nous avons construit une culture qui consiste à vraiment prêter attention aux détails et à essayer de bien faire les choses, en attirant des recherches techniques et scientifiques très minutieuses de la part de ceux qui veulent travailler de cette façon. Une autre raison est que je pense que nous sommes une organisation très à la recherche de la vérité, trouvant ce qui fonctionne et faisant plus. **

Lorsque nous avons lancé OpenAI, nous étions différents des autres recherches sur l'IA qui existaient sur le terrain, ils avaient des systèmes d'incitation différents, et les éléments à prendre en compte étaient dispersés, et nous avons pris un risque très ciblé, faisant ce qui était considéré comme inimaginable à l'époque. Nous avons investi la plupart de nos ressources dans ce projet, et bien qu'il comporte des risques, nous l'avons étudié attentivement et sommes convaincus que nous pouvons obtenir des résultats.

**Brockman :**Mon idée est de partir des "premiers principes". Au tout début, Ilya (scientifique en chef d'OpenAI) débattait avec moi pendant environ une heure chaque jour. Par exemple, nous avons eu une longue discussion sur qui nous devrions embaucher, devrions-nous embaucher un docteur traditionnel en apprentissage automatique, ou devrions-nous embaucher un ingénieur logiciel qui n'a jamais fait cela auparavant, ou quelqu'un entre les deux ? Pour chaque décision, nous devons voir leurs conséquences, puis nous continuerons à apprendre et à mettre à jour.

Nous ne pouvons pas tout savoir à l'avance, mais nous pouvons apprendre en faisant. Tout comme l'OpenAI-Five que nous avons développé et continué à étendre son échelle, dans la compétition de jeux de Dota2, il ne prend aucun retard. (Remarque : OpenAI-Five, une intelligence artificielle qui peut jouer aux jeux Dota2, Dota2 est un jeu d'arène de combat en ligne multijoueur avec un grand nombre de fans fanatiques. En 2018, ils ont défié l'équipe championne du monde OG de toutes leurs forces.)

C'est notre premier système qui évolue vraiment, et le système s'améliore chaque semaine à mesure que nous y mettons plus de puissance de calcul. Notre objectif est d'épuiser l'espace des algorithmes existants afin de pouvoir développer de nouveaux algorithmes, ce que nous voulons vraiment faire. Lorsque vous essayez de suivre cette direction, une autre direction vous tire vers l'avant et vous dit que cela fonctionne. ** Répondre à ce que nous voyons devant nous, constamment mettre à jour, pivoter, changer, est très important d'un point de vue technique. **

Altman : Lorsque nous avons étendu le projet OpenAI-Five, personne ne pensait qu'il réussirait. Le fait que vous puissiez lancer n'importe quelle quantité de calculs sur un système d'IA pour atteindre le niveau d'intelligence souhaité, et cela couvre une gamme incroyable de calculs et d'intelligence, est comme une découverte scientifique étonnante.

Brockman : Nous avons également examiné les avancées algorithmiques, combinant les meilleurs systèmes avec les meilleurs algorithmes, et des systèmes comme GPT-4 sont nés. ** Lorsque nous réfléchissons à ce problème, nous réalisons que si toutes les informations du GPU sont entrées dans la chaîne d'approvisionnement du nouvel algorithme, ou même téléchargées dans le système de traitement de données à grande échelle, alors c'est un gros projet, et aucune entreprise ne pourra le faire seule. D'une certaine manière, il s'agit en fait d'un projet global impliquant de nombreuses entreprises. **

"L'IA est un outil de productivité pour tout le monde"

Modérateur : Altman, quelqu'un vous a envoyé un tweet : "La prochaine chose que vous allez dire, c'est que nous devrions réglementer l'IA." Vous répondez : "Oui, nous devrions réglementer l'intelligence artificielle." pensez-vous aux nombreuses personnes qui disent : « Vous allez trop vite », que pensez-vous de la réglementation, de la gouvernance mondiale ou de l'acquisition de talents ?

Altman : Je comprends l'anxiété et la peur de tout le monde. Les gens ont peur de la vitesse des changements technologiques. Nous sommes également d'accord pour procéder avec prudence et renforcer la régulation de l'intelligence artificielle, mais il ne sert à rien de suspendre les recherches.

** Ce que nous devons vraiment faire, c'est déterminer quelles approches réglementaires, règles et normes de sécurité fonctionnent vraiment dans le contexte de la réalité désordonnée. La vitesse à laquelle le monde change devrait être maintenue relativement constante, plutôt que de construire AGI en secret, puis de la rendre immédiatement publique à un moment donné. **Les institutions ne deviennent pas formidables du jour au lendemain, elles devraient progressivement faire partie du développement technologique, fournir des commentaires critiques à la recherche scientifique, nous dire quand des erreurs stupides sont commises, identifier les domaines de grands avantages et de dommages potentiels, faire des erreurs et en tirer des leçons lorsque le risque est plus faible que prévu.

Brockman : Nous essayons vraiment de comprendre cela. **Lorsque nous avons fondé OpenAI, nous avons vraiment réfléchi à la façon de développer une AGI sûre, qui détermine si elle profitera à toute l'humanité. Il y a deux enjeux ici, l'un est la sécurité technique, l'autre la sécurité sociale, il faut s'assurer que la technologie de l'intelligence artificielle est guidée pour être utilisée en toute sécurité. **

Je suis relativement technique, donc je vais me concentrer sur la résolution du premier problème. Nous avons commencé les déploiements au cours des quatre ou cinq dernières années, et lorsque GPT-3 a des problèmes, nous l'avons corrigé de la manière dont GPT-3 a été distribué, en utilisant des filtres et des interventions non liées au modèle. Maintenant que notre technologie mûrit pour pouvoir intervenir au niveau du modèle, GPT-4 peut comprendre les résultats dans le modèle de manière automatisée, il fait donc un très bon travail de filtrage de sécurité.

Modérateur : L'une des critiques de l'intelligence artificielle est l'utilisation de l'énergie. Altman, vous pensez qu'il y aura non seulement une intelligence infinie dans le futur mais aussi une énergie infinie, vous avez beaucoup investi dans Helion Energy (une entreprise d'énergie propre), pouvez-vous nous expliquer pourquoi vous y avez investi et quels résultats vous attendez ?

Altman : Je ne pense pas qu'il y aura une intelligence ou une énergie infinie dans le futur de l'IA. Je pense que ce devrait être une baisse des prix et une augmentation des produits riches. Il nous est impossible d'atteindre ce niveau d'infini. Je trouve ces critiques énergétiques des systèmes d'IA vulgaires. ** Je pense qu'une énergie abondante et propre a d'autres avantages que la simple résolution de la crise climatique, et qu'investir dans l'énergie est une chose plus importante que d'investir dans tout autre intrant auquel je peux penser. Financer un changement fondamental du coût d'acquisition de l'énergie est une excellente chose. **Helion y travaille et j'espère avoir de bonnes nouvelles l'année prochaine.

**Modérateur : **Brockman Nous comprenons que vous investissez dans certaines entreprises dans les domaines des soins de santé et du développement de médicaments. Qu'en pensez-vous ?

Brockman : Il existe un fonds au sein d'OpenAI qui investit dans certaines startups technologiques. Des startups comme Ambience Healthcare (une société d'intelligence artificielle dans le domaine médical) essaient en fait d'appliquer l'IA à des activités médicales réelles. Même Microsoft commence à mettre en œuvre sa stratégie d'IA dans le secteur de la santé via Nuance (société de logiciels d'intelligence artificielle). Si vous pensez à l'éventail des problèmes auxquels les médecins sont confrontés, bon nombre d'entre eux sont d'ordre administratif. Mes parents étaient tous les deux médecins, et j'ai entendu toutes les histoires sur la façon dont ils ont été forcés d'utiliser des iPads pour parler aux patients. **Nous entrons dans un monde où nous pouvons consulter les transcriptions instantanées des informations médicales de Nuance et obtenir des notes médicales après coup, réduisant ainsi la quantité d'efforts d'explication pour le médecin à la famille du patient et permettant au médecin de se concentrer vraiment sur le soins du patient. **

Nous avons déjà vu les avantages des personnes utilisant ChatGPT pour consulter un médecin sur Twitter. Une autre personne a sauvé la vie de son chien grâce à ChatGPT. Il a été rapporté qu'il est allé chez le vétérinaire, mais le vétérinaire ne l'a pas soigné à temps. Les internautes ont téléchargé avec anxiété les dossiers médicaux sur ChatGPT. Cependant, ChatGPT est à peu près sûr de "Je ne suis pas vétérinaire, vous devez parler à un vétérinaire". Cependant, il a également reçu quelques conseils et explications, ce qui lui a donné la confiance nécessaire pour aller voir un deuxième vétérinaire. Je pense que c'est un exemple vraiment intéressant parce qu'il pointe vraiment le problème de la façon dont nous voulons que l'IA intervienne. Les humains sont très dépendants des médecins dans le domaine de la médecine, mais les humains font aussi des erreurs, et le premier médecin a pris une mauvaise décision qui pourrait avoir des conséquences fatales. Donc, trouver comment obtenir la bonne surveillance par les bonnes personnes.

Modérateur : Vous investissez dans des entreprises utilisant votre plateforme via OpenAI, cela fera-t-il une différence ? D'autres entreprises utiliseront-elles votre API (interface d'appel d'application) ? Curieux de savoir quelle est la meilleure façon d'utiliser l'IA pour améliorer toutes les industries ?

Altman : Nous voyons maintenant que les gens appellent l'API d'OpenAI partout, et à mesure que le modèle devient de plus en plus intelligent, les capacités des produits et services peuvent être continuellement améliorées, nous pouvons donc répondre à cette question en toute confiance, et cette situation continuer.

Modérateur : Que pensez-vous que l'utilisation de l'intelligence artificielle ou de la technologie moderne de l'intelligence artificielle apportera à la recherche scientifique d'ici 3 à 10 ans ?

Brockman : Le génie des mathématiques chinois Terence Tao a récemment déclaré que GPT-4 avait accéléré sa vitesse. Terence Tao est un mathématicien bien connu. Il a déclaré que l'utilisation de GPT-4 pour l'aider à rédiger des demandes de financement dans les déclarations de projet peut être d'une grande aide et résoudre certaines tâches fastidieuses. En fait, les gens consacrent chaque jour beaucoup de temps et d'énergie à certaines tâches monotones et répétitives. Les personnes les plus intelligentes du monde passent tellement de temps à faire ce travail pas si créatif que ça, c'est un tel gaspillage. L'IA peut les aider à résoudre ces tâches fastidieuses sans importance, libérant les gens pour faire des choses de valeur réelle, et ils peuvent en faire plus.

**Altman : Oui, je pense L'IA est un outil de productivité pour tous qui rendra nos meilleurs scientifiques meilleurs et fera progresser la recherche scientifique. **En fin de compte, ces systèmes pourraient nous aider à stocker plus de connaissances que le cerveau humain et à découvrir de nouvelles connexions, de nouvelles idées, etc.