Que feriez-vous si vous pouviez avoir une vision, une énergie, une chance et la richesse extraordinaires qui vont avec ?
La réponse de Musk est la suivante : diriger personnellement six entreprises, préserver le feu de la civilisation humaine et lutter contre les dangereuses IA.
Mercredi, le biographe de Musk, Walter Issacson, a publié certains chapitres de sa prochaine biographie dans le magazine "Time", décrivant la peur et l'inquiétude constantes de Musk à l'égard de l'IA depuis plus d'une décennie, ainsi que sa réflexion sur le destin futur de l'humanité, selon Wall Street Insights Key. des extraits ont été réalisés.
Peur de l'avènement de l'IA
La peur d’Elon Musk à l’égard de l’IA est née d’une rencontre avec le chercheur en IA Demis Hassabis en 2012.
À cette époque, Musk l'a invité à visiter l'usine SpaceX et a expliqué que la raison pour laquelle il avait construit une fusée capable d'atteindre Mars était de préserver le feu de la civilisation humaine en cas de catastrophe telle qu'une guerre nucléaire et un impact d'astéroïde.
Demis lui a rappelé qu'un élément supplémentaire devrait être ajouté à la liste apocalyptique : l'IA, l'intelligence des machines pourrait dépasser les humains à l'avenir et pourrait même vouloir éliminer les humains.
Musk a réfléchi une minute, puis a décidé que Demis avait raison et a immédiatement investi 5 millions de dollars dans DeepMind pour « surveiller ce qu'il faisait ».
Quelques semaines après cette conversation, Musk a présenté DeepMind à Larry Page, un vieil ami de plus de dix ans et co-fondateur de Google, et a souvent parlé à Page tard dans la nuit de la menace de l'IA pour l'humanité, mais ce dernier l'a écartée. .
En 2013, lors de la fête d’anniversaire de Musk, ils ont eu un débat houleux. Musk estime que si des mesures immédiates ne sont pas prises et que des garanties ne sont pas établies, le développement rapide de l’IA pourrait entraîner l’extinction de l’humanité.
Mais Page ne s'en souciait pas du tout. Il a répondu : si un jour les machines surpassent les humains en intelligence et même en conscience, qu'importe ? C'est juste la prochaine étape de l'évolution. Il a accusé Musk d'être un « spéciste » qui favorise sa propre espèce.
Musk a également admis généreusement :
"Ouais, putain, j'aime les humains. (Putain, j'aime l'humanité, mec.)"
OpenAI a été fondé pour vérifier et équilibrer Google
À la fin de cette année-là, la nouvelle que Google, sous la direction de Page, envisageait d'acquérir DeepMind parvint aux oreilles de Musk, qui s'inquiétait de ce qui se passerait si une IA puissante était maîtrisée par des gens comme Page qui ne se souciaient pas des êtres humains.
Il a donc fait appel à son ami et co-fondateur de PayPal, Luke Nosek, pour tenter de lever des fonds pour arrêter la transaction, mais il a échoué et Google a finalisé l'acquisition en janvier 2014. En réponse aux préoccupations de Musk, Page a accepté de créer un « comité de sécurité », avec Musk et l'expert en IA susmentionné Demis comme membres, ainsi que d'autres membres, dont le président de Google Eric Schmidt et le co-fondateur de LinkedIn Reid Hoffman, et d'autres.
Cependant, après avoir assisté à la première et unique réunion du « Comité de sécurité », Musk est devenu encore plus méfiant à l'égard de Page et de Google, pensant que tous les membres du comité disaient des bêtises. Il a commencé à organiser des rassemblements intensifs pour discuter de la manière de combattre Google et de promouvoir la sécurité de l’IA.
En mai 2015, il a également eu une longue conversation en tête-à-tête avec le président américain de l’époque, Obama, expliquant les risques de l’IA et proposant que le président réglemente l’IA. Mais Obama n'a pas adopté sa proposition.
Ainsi, Sam Altman, le fondateur d’OpenAI, est apparu à ce moment-là. Musk et lui pensent tous deux qu’un grand nombre de systèmes d’IA qui se font concurrence et s’équilibrent mutuellement sont plus sûrs que quelques grandes entreprises contrôlant l’IA. Lors d'un dîner, les deux hommes se sont sympathisés et ont décidé de cofonder un laboratoire de recherche en intelligence artificielle à but non lucratif et de le nommer OpenAI.
Cependant, en 2018, comme Tesla développait également l’IA pour piloter son logiciel de pilote automatique, afin d’éviter d’éventuels conflits d’intérêts, Musk ne pouvait pas continuer à rester chez OpenAI. Il a tenté de persuader Altman de fusionner OpenAI avec Tesla, mais a été rejeté ; en outre, il était également très mécontent de l'orientation progressive de la commercialisation d'OpenAI, il a donc finalement rompu avec l'équipe OpenAI.
En regardant le paysage commercial actuel de Musk, chaque entreprise représente sa solution à la crise de l'IA : SpaceX peut construire l'arche de Noé pour préserver le feu de la civilisation ; Neuralink, une société d'interface cerveau-ordinateur, peut rendre le corps humain plus flexible. Tesla reçoit et traite chaque jour 160 milliards d'images vidéo provenant de caméras de voiture. Ces données du monde réel peuvent être utilisées pour la formation à « l'intelligence artificielle générale (AGI) », et le robot humanoïde Optimus deviendra le support physique de l'AGI. Toutes sortes de ressources peuvent être intégrées dans sa nouvelle société – xAI.
Au premier semestre de cette année, la vague d'IA menée par OpenAI a non seulement volé la vedette à Musk, mais l'a également rendu encore plus inquiet du fait que ces systèmes d'IA contrôlés par de grandes entreprises pourraient propager le « virus de la culture de l'éveil » et empoisonner l'esprit des Américains. des adolescents ; on craint également que les systèmes d’IA d’aujourd’hui, capables d’apprendre par eux-mêmes, ne deviennent hostiles aux humains, et que les robots entraînés à partir des données de Twitter puissent produire des informations fausses ou frauduleuses.
Il avait hâte d'entrer, mécontent d'avoir fondé et financé OpenAI et d'être désormais laissé de côté. L’IA est la plus grande tempête qui se prépare. Personne n’aime plus les tempêtes que Musk.
Par conséquent, au cours du premier semestre, Musk a lancé une attaque féroce contre OpenAI et Altman personnellement. Altman pouvait comprendre l'agressivité de Musk. Dans une interview, il a déclaré que même si Musk se comportait comme un imbécile, il croyait qu'il était vrai. très préoccupés par le domaine de l’IA et inquiets pour l’avenir de l’humanité.
Musk estime qu'il occupe une position de leader sur la piste AGI.
Bien que je n'aie pas réussi à rattraper la tendance et à créer un chatbot IA lorsque la vague de l'IA était à son apogée. Mais Musk estime qu’il est toujours en tête dans la course à l’AGI.
Il estime que les chatbots qui ne peuvent générer que du texte sont d'une utilité limitée et que l'accent est mis sur les robots physiques intelligents. D’une part, Tesla dispose déjà d’une technologie avancée de conduite autonome et du robot humanoïde Optimus ; d’autre part, les tweets de centaines de millions d’utilisateurs sur Twitter et les caméras installées sur le corps de Tesla fournissent également suffisamment de données pour le développement de l’AGI.
Par conséquent, il est convaincu qu’il peut créer des AGI plus rapidement qu’OpenAI :
"Les capacités d'IA de Tesla dans le monde réel sont sous-estimées. Imaginez si Tesla et OpenAI devaient échanger leurs tâches. Ils devaient fabriquer des voitures autonomes et nous devions créer des chatbots à grand modèle de langage. Qui gagnerait ? Nous gagnons."
Jusqu’à récemment, Musk réfléchissait encore à la manière de réduire les risques liés à l’IA et de permettre à la conscience humaine de se transmettre de génération en génération.
Il estime que le niveau d'intelligence des êtres humains se stabilise et qu'il y a de moins en moins de nouveau-nés. Dans le même temps, l’intelligence des ordinateurs croît de façon exponentielle, à l’instar de la « loi de Moore sur les stéroïdes ». L’intelligence biologique n’est rien en comparaison de l’intelligence numérique.
Musk pense que le « moment de singularité » où l’IA avance seule à une vitesse incontrôlée, laissant les humains derrière elle, viendra plus tôt que prévu.
"Je ne peux pas rester les bras croisés et avec l'avènement de l'intelligence artificielle, je me demande en quelque sorte si je devrais consacrer autant de temps à penser à Twitter. Bien sûr, je pourrais probablement en faire la plus grande institution financière du monde. Mais je n'ai que tellement d’énergie chaque jour et à chaque heure, je n’ai pas besoin de gagner plus d’argent ou quoi que ce soit.
Alors, où dois-je passer mon temps ? Démarrez le vaisseau. Aller sur Mars est désormais bien plus urgent. De plus, je dois me concentrer sur la sécurité de l’IA. C'est pourquoi je crée une entreprise d'IA. "
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Biographie de Musk, un initié important : il y a 10 ans, il craignait que l'IA ne détruise l'humanité
Auteur : Chang Jiashuai, Wall Street Insights
Que feriez-vous si vous pouviez avoir une vision, une énergie, une chance et la richesse extraordinaires qui vont avec ?
La réponse de Musk est la suivante : diriger personnellement six entreprises, préserver le feu de la civilisation humaine et lutter contre les dangereuses IA.
Mercredi, le biographe de Musk, Walter Issacson, a publié certains chapitres de sa prochaine biographie dans le magazine "Time", décrivant la peur et l'inquiétude constantes de Musk à l'égard de l'IA depuis plus d'une décennie, ainsi que sa réflexion sur le destin futur de l'humanité, selon Wall Street Insights Key. des extraits ont été réalisés.
Peur de l'avènement de l'IA
La peur d’Elon Musk à l’égard de l’IA est née d’une rencontre avec le chercheur en IA Demis Hassabis en 2012.
À cette époque, Musk l'a invité à visiter l'usine SpaceX et a expliqué que la raison pour laquelle il avait construit une fusée capable d'atteindre Mars était de préserver le feu de la civilisation humaine en cas de catastrophe telle qu'une guerre nucléaire et un impact d'astéroïde.
Demis lui a rappelé qu'un élément supplémentaire devrait être ajouté à la liste apocalyptique : l'IA, l'intelligence des machines pourrait dépasser les humains à l'avenir et pourrait même vouloir éliminer les humains.
Musk a réfléchi une minute, puis a décidé que Demis avait raison et a immédiatement investi 5 millions de dollars dans DeepMind pour « surveiller ce qu'il faisait ».
Quelques semaines après cette conversation, Musk a présenté DeepMind à Larry Page, un vieil ami de plus de dix ans et co-fondateur de Google, et a souvent parlé à Page tard dans la nuit de la menace de l'IA pour l'humanité, mais ce dernier l'a écartée. .
En 2013, lors de la fête d’anniversaire de Musk, ils ont eu un débat houleux. Musk estime que si des mesures immédiates ne sont pas prises et que des garanties ne sont pas établies, le développement rapide de l’IA pourrait entraîner l’extinction de l’humanité.
Mais Page ne s'en souciait pas du tout. Il a répondu : si un jour les machines surpassent les humains en intelligence et même en conscience, qu'importe ? C'est juste la prochaine étape de l'évolution. Il a accusé Musk d'être un « spéciste » qui favorise sa propre espèce.
Musk a également admis généreusement :
OpenAI a été fondé pour vérifier et équilibrer Google
À la fin de cette année-là, la nouvelle que Google, sous la direction de Page, envisageait d'acquérir DeepMind parvint aux oreilles de Musk, qui s'inquiétait de ce qui se passerait si une IA puissante était maîtrisée par des gens comme Page qui ne se souciaient pas des êtres humains.
Il a donc fait appel à son ami et co-fondateur de PayPal, Luke Nosek, pour tenter de lever des fonds pour arrêter la transaction, mais il a échoué et Google a finalisé l'acquisition en janvier 2014. En réponse aux préoccupations de Musk, Page a accepté de créer un « comité de sécurité », avec Musk et l'expert en IA susmentionné Demis comme membres, ainsi que d'autres membres, dont le président de Google Eric Schmidt et le co-fondateur de LinkedIn Reid Hoffman, et d'autres.
Cependant, après avoir assisté à la première et unique réunion du « Comité de sécurité », Musk est devenu encore plus méfiant à l'égard de Page et de Google, pensant que tous les membres du comité disaient des bêtises. Il a commencé à organiser des rassemblements intensifs pour discuter de la manière de combattre Google et de promouvoir la sécurité de l’IA.
En mai 2015, il a également eu une longue conversation en tête-à-tête avec le président américain de l’époque, Obama, expliquant les risques de l’IA et proposant que le président réglemente l’IA. Mais Obama n'a pas adopté sa proposition.
Ainsi, Sam Altman, le fondateur d’OpenAI, est apparu à ce moment-là. Musk et lui pensent tous deux qu’un grand nombre de systèmes d’IA qui se font concurrence et s’équilibrent mutuellement sont plus sûrs que quelques grandes entreprises contrôlant l’IA. Lors d'un dîner, les deux hommes se sont sympathisés et ont décidé de cofonder un laboratoire de recherche en intelligence artificielle à but non lucratif et de le nommer OpenAI.
Cependant, en 2018, comme Tesla développait également l’IA pour piloter son logiciel de pilote automatique, afin d’éviter d’éventuels conflits d’intérêts, Musk ne pouvait pas continuer à rester chez OpenAI. Il a tenté de persuader Altman de fusionner OpenAI avec Tesla, mais a été rejeté ; en outre, il était également très mécontent de l'orientation progressive de la commercialisation d'OpenAI, il a donc finalement rompu avec l'équipe OpenAI.
En regardant le paysage commercial actuel de Musk, chaque entreprise représente sa solution à la crise de l'IA : SpaceX peut construire l'arche de Noé pour préserver le feu de la civilisation ; Neuralink, une société d'interface cerveau-ordinateur, peut rendre le corps humain plus flexible. Tesla reçoit et traite chaque jour 160 milliards d'images vidéo provenant de caméras de voiture. Ces données du monde réel peuvent être utilisées pour la formation à « l'intelligence artificielle générale (AGI) », et le robot humanoïde Optimus deviendra le support physique de l'AGI. Toutes sortes de ressources peuvent être intégrées dans sa nouvelle société – xAI.
Au premier semestre de cette année, la vague d'IA menée par OpenAI a non seulement volé la vedette à Musk, mais l'a également rendu encore plus inquiet du fait que ces systèmes d'IA contrôlés par de grandes entreprises pourraient propager le « virus de la culture de l'éveil » et empoisonner l'esprit des Américains. des adolescents ; on craint également que les systèmes d’IA d’aujourd’hui, capables d’apprendre par eux-mêmes, ne deviennent hostiles aux humains, et que les robots entraînés à partir des données de Twitter puissent produire des informations fausses ou frauduleuses.
Il avait hâte d'entrer, mécontent d'avoir fondé et financé OpenAI et d'être désormais laissé de côté. L’IA est la plus grande tempête qui se prépare. Personne n’aime plus les tempêtes que Musk.
Par conséquent, au cours du premier semestre, Musk a lancé une attaque féroce contre OpenAI et Altman personnellement. Altman pouvait comprendre l'agressivité de Musk. Dans une interview, il a déclaré que même si Musk se comportait comme un imbécile, il croyait qu'il était vrai. très préoccupés par le domaine de l’IA et inquiets pour l’avenir de l’humanité.
Musk estime qu'il occupe une position de leader sur la piste AGI.
Bien que je n'aie pas réussi à rattraper la tendance et à créer un chatbot IA lorsque la vague de l'IA était à son apogée. Mais Musk estime qu’il est toujours en tête dans la course à l’AGI.
Il estime que les chatbots qui ne peuvent générer que du texte sont d'une utilité limitée et que l'accent est mis sur les robots physiques intelligents. D’une part, Tesla dispose déjà d’une technologie avancée de conduite autonome et du robot humanoïde Optimus ; d’autre part, les tweets de centaines de millions d’utilisateurs sur Twitter et les caméras installées sur le corps de Tesla fournissent également suffisamment de données pour le développement de l’AGI.
Par conséquent, il est convaincu qu’il peut créer des AGI plus rapidement qu’OpenAI :
Jusqu’à récemment, Musk réfléchissait encore à la manière de réduire les risques liés à l’IA et de permettre à la conscience humaine de se transmettre de génération en génération.
Il estime que le niveau d'intelligence des êtres humains se stabilise et qu'il y a de moins en moins de nouveau-nés. Dans le même temps, l’intelligence des ordinateurs croît de façon exponentielle, à l’instar de la « loi de Moore sur les stéroïdes ». L’intelligence biologique n’est rien en comparaison de l’intelligence numérique.
Musk pense que le « moment de singularité » où l’IA avance seule à une vitesse incontrôlée, laissant les humains derrière elle, viendra plus tôt que prévu.