¿Qué harías si pudieras tener una visión, energía, suerte y la riqueza extraordinarias que conlleva?
La respuesta de Musk es: dirigir personalmente seis empresas para preservar el fuego de la civilización humana y luchar contra la peligrosa IA.
El miércoles, el biógrafo de Musk, Walter Issacson, publicó algunos capítulos de su próxima biografía en la revista Time, describiendo los temores y preocupaciones constantes de Musk sobre la IA durante más de diez años, así como sus pensamientos sobre el destino futuro de la humanidad. hecho.
Miedo a la llegada de la IA
El miedo de Musk a la IA se originó en una reunión con el investigador de IA Demis Hassabis en 2012.
En ese momento, Musk lo invitó a visitar la fábrica de SpaceX y le explicó que la razón por la que construyó un cohete capaz de llegar a Marte era para preservar el fuego de la civilización humana en caso de acontecimientos apocalípticos como una guerra nuclear o un impacto de asteroide.
Demis le recordó que una cosa más debería agregarse a la lista del fin del mundo: la IA. La inteligencia de las máquinas puede superar a los humanos en el futuro, e incluso puede querer eliminar a los humanos.
Musk pensó por un minuto, luego decidió que Demis tenía razón e inmediatamente invirtió 5 millones de dólares en DeepMind para "monitorear lo que estaba haciendo".
Unas semanas después de esta conversación, Musk presentó DeepMind a Larry Page, un viejo amigo de más de diez años y cofundador de Google, y a menudo hablaba con Page a altas horas de la noche sobre la amenaza de la IA para la humanidad, pero este último la descartó. .
En 2013, en la fiesta de cumpleaños de Musk, tuvieron un acalorado debate. Musk cree que si no se toman medidas inmediatas y se establecen salvaguardas, el rápido desarrollo de la IA puede extinguir a la humanidad.
Pero a Page no le importó en absoluto y preguntó: Si un día las máquinas superan a los humanos en inteligencia o incluso en conciencia, ¿qué importa? Es sólo la siguiente etapa de la evolución. Acusó a Musk de ser un "especista" que favorece a su propia especie.
Musk también admitió generosamente:
"Me gusta la humanidad, amigo".
OpenAI se fundó para controlar y equilibrar a Google
A finales de ese año, la noticia de que Google, bajo el liderazgo de Page, planeaba adquirir DeepMind llegó a oídos de Musk, quien estaba preocupado por lo que sucedería si personas como Page, que no se preocupaban por los seres humanos, dominaban la poderosa IA.
Por lo tanto, involucró a su amigo y cofundador de PayPal, Luke Nosek, para recaudar dinero para bloquear el acuerdo, pero fracasó. Google completó la adquisición en enero de 2014. En respuesta a las preocupaciones de Musk, Page acordó formar un "comité de seguridad" que incluía a Musk y al ya mencionado experto en inteligencia artificial Demis, junto con el presidente de Google, Eric Schmidt, y el cofundador de LinkedIn, Reid Hoffman, et al.
Sin embargo, después de asistir a la primera y única reunión del "Comité de Seguridad", Musk desconfió aún más de Page y Google, pensando que todos los miembros del comité estaban diciendo tonterías. Comenzó a organizar intensamente reuniones para discutir cómo luchar contra Google y promover la seguridad de la IA.
En mayo de 2015, también tuvo una larga conversación individual con el entonces presidente de Estados Unidos, Barack Obama, en la que le explicó los riesgos de la IA y le sugirió que la regulara. Pero Obama no adoptó su propuesta.
Entonces, en este momento apareció el fundador de OpenAI, Sam Altman. Musk y él creen que una gran cantidad de sistemas de IA competitivos con controles y contrapesos es más seguro que tener la IA controlada por unas pocas grandes empresas. En una cena, los dos se llevaron bien y decidieron cofundar un laboratorio de investigación de inteligencia artificial sin fines de lucro y llamarlo OpenAI.
Sin embargo, en 2018, debido a que Tesla también estaba desarrollando IA para impulsar su software de piloto automático, para evitar posibles conflictos de intereses, Musk no pudo continuar en OpenAI. Trató de persuadir a Altman para que fusionara OpenAI con Tesla, pero fue rechazado; además, también estaba muy insatisfecho con la dirección de comercialización gradual de OpenAI, por lo que finalmente rompió con el equipo de OpenAI.
Mirando retrospectivamente el panorama empresarial actual de Musk, cada empresa representa su solución a la crisis de la IA: SpaceX puede construir el Arca de Noé para preservar el fuego de la civilización, Neuralink, una empresa de interfaz cerebro-computadora, puede hacer que los cuerpos humanos sean más flexibles. Tesla recibe y procesa 160 mil millones de cuadros de video de las cámaras de los automóviles todos los días. Estos datos del mundo real pueden usarse para el entrenamiento de "inteligencia artificial general (AGI)", y el robot humanoide Optimus se convertirá en el portador físico de AGI. Se pueden integrar todo tipo de recursos en su nueva empresa: xAI.
En la primera mitad de este año, la ola de IA liderada por OpenAI no solo le quitó el foco de atención a Musk, sino que también lo hizo preocuparse más de que estos sistemas de IA controlados por grandes empresas puedan propagar "virus culturales que despiertan" y envenenar los corazones de los adolescentes estadounidenses. Existe la preocupación de que los sistemas de inteligencia artificial de autoaprendizaje actuales puedan volverse hostiles a los humanos y que los robots entrenados con datos de Twitter puedan producir información falsa o engañosa.
Estaba ansioso por entrar en acción, resentido por haber fundado y financiado OpenAI pero ahora estaba siendo marginado. La IA es la mayor tormenta que se avecina. Nadie ama más las tormentas que Musk.
Por lo tanto, en la primera mitad del año, Musk lanzó un feroz ataque contra OpenAI y Altman personalmente. Altman pudo entender la agresividad de Musk. En una entrevista, dijo que aunque Musk se comportaba como un imbécil, creía que era cierto. Algunos son Estamos muy preocupados por el campo de la IA y preocupados por el futuro de la humanidad.
Musk cree que está en la posición de liderazgo en la pista AGI.
Aunque no pude ponerme al día con la tendencia y construir un chatbot de IA cuando la ola de IA estaba en su apogeo. Pero Musk cree que todavía está por delante en la carrera hacia AGI.
Él cree que los chatbots que solo pueden generar texto tienen un uso limitado y la atención se centra en los robots físicos inteligentes. Por un lado, Tesla ya cuenta con tecnología avanzada de conducción autónoma y el robot humanoide Optimus; por otro, los tweets de cientos de millones de usuarios en Twitter y las cámaras en el cuerpo de Tesla también proporcionan datos suficientes para el desarrollo de AGI.
Por lo tanto, confía en poder crear AGI más rápido que OpenAI:
"Las capacidades de IA de Tesla en el mundo real están subestimadas, imagínense si Tesla y OpenAI tuvieran que intercambiar tareas. Ellos tuvieran que fabricar autos sin conductor y nosotros tuviéramos que crear grandes chatbots con modelos de lenguaje. ¿Quién ganaría? Nosotros ganamos".
Hasta hace poco, Musk seguía pensando en cómo reducir los riesgos de la IA y permitir que la conciencia humana se transmitiera de generación en generación.
Cree que el nivel de inteligencia de los seres humanos se está estabilizando y cada vez hay menos recién nacidos. Al mismo tiempo, la inteligencia de las computadoras está creciendo exponencialmente, como la "Ley de Moore sobre los esteroides". La capacidad intelectual biológica palidece en comparación con la capacidad intelectual digital.
Musk cree que el "momento de singularidad" en el que la IA avanza sola a una velocidad incontrolada, dejando atrás a los humanos, llegará antes de lo que esperábamos.
"No puedo quedarme sentado y con la llegada de la inteligencia artificial, me pregunto si debería dedicar tanto tiempo a pensar en Twitter. Claro, probablemente podría convertirla en la institución financiera más grande del mundo. Pero solo tengo Tanta energía cada día y tiempo, y no necesito ganar más dinero ni nada.
Entonces, ¿dónde debería pasar mi tiempo? Inicia la nave estelar. Llegar a Marte es mucho más urgente ahora. Además, debo concentrarme en mantener segura la IA. Por eso quiero iniciar una empresa de inteligencia artificial. "
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Información privilegiada de la biografía de Musk: hace 10 años le preocupaba que la IA destruyera a la humanidad
Autor: Chang Jiashuai, Wall Street News
¿Qué harías si pudieras tener una visión, energía, suerte y la riqueza extraordinarias que conlleva?
La respuesta de Musk es: dirigir personalmente seis empresas para preservar el fuego de la civilización humana y luchar contra la peligrosa IA.
El miércoles, el biógrafo de Musk, Walter Issacson, publicó algunos capítulos de su próxima biografía en la revista Time, describiendo los temores y preocupaciones constantes de Musk sobre la IA durante más de diez años, así como sus pensamientos sobre el destino futuro de la humanidad. hecho.
Miedo a la llegada de la IA
El miedo de Musk a la IA se originó en una reunión con el investigador de IA Demis Hassabis en 2012.
En ese momento, Musk lo invitó a visitar la fábrica de SpaceX y le explicó que la razón por la que construyó un cohete capaz de llegar a Marte era para preservar el fuego de la civilización humana en caso de acontecimientos apocalípticos como una guerra nuclear o un impacto de asteroide.
Demis le recordó que una cosa más debería agregarse a la lista del fin del mundo: la IA. La inteligencia de las máquinas puede superar a los humanos en el futuro, e incluso puede querer eliminar a los humanos.
Musk pensó por un minuto, luego decidió que Demis tenía razón e inmediatamente invirtió 5 millones de dólares en DeepMind para "monitorear lo que estaba haciendo".
Unas semanas después de esta conversación, Musk presentó DeepMind a Larry Page, un viejo amigo de más de diez años y cofundador de Google, y a menudo hablaba con Page a altas horas de la noche sobre la amenaza de la IA para la humanidad, pero este último la descartó. .
En 2013, en la fiesta de cumpleaños de Musk, tuvieron un acalorado debate. Musk cree que si no se toman medidas inmediatas y se establecen salvaguardas, el rápido desarrollo de la IA puede extinguir a la humanidad.
Pero a Page no le importó en absoluto y preguntó: Si un día las máquinas superan a los humanos en inteligencia o incluso en conciencia, ¿qué importa? Es sólo la siguiente etapa de la evolución. Acusó a Musk de ser un "especista" que favorece a su propia especie.
Musk también admitió generosamente:
OpenAI se fundó para controlar y equilibrar a Google
A finales de ese año, la noticia de que Google, bajo el liderazgo de Page, planeaba adquirir DeepMind llegó a oídos de Musk, quien estaba preocupado por lo que sucedería si personas como Page, que no se preocupaban por los seres humanos, dominaban la poderosa IA.
Por lo tanto, involucró a su amigo y cofundador de PayPal, Luke Nosek, para recaudar dinero para bloquear el acuerdo, pero fracasó. Google completó la adquisición en enero de 2014. En respuesta a las preocupaciones de Musk, Page acordó formar un "comité de seguridad" que incluía a Musk y al ya mencionado experto en inteligencia artificial Demis, junto con el presidente de Google, Eric Schmidt, y el cofundador de LinkedIn, Reid Hoffman, et al.
Sin embargo, después de asistir a la primera y única reunión del "Comité de Seguridad", Musk desconfió aún más de Page y Google, pensando que todos los miembros del comité estaban diciendo tonterías. Comenzó a organizar intensamente reuniones para discutir cómo luchar contra Google y promover la seguridad de la IA.
En mayo de 2015, también tuvo una larga conversación individual con el entonces presidente de Estados Unidos, Barack Obama, en la que le explicó los riesgos de la IA y le sugirió que la regulara. Pero Obama no adoptó su propuesta.
Entonces, en este momento apareció el fundador de OpenAI, Sam Altman. Musk y él creen que una gran cantidad de sistemas de IA competitivos con controles y contrapesos es más seguro que tener la IA controlada por unas pocas grandes empresas. En una cena, los dos se llevaron bien y decidieron cofundar un laboratorio de investigación de inteligencia artificial sin fines de lucro y llamarlo OpenAI.
Sin embargo, en 2018, debido a que Tesla también estaba desarrollando IA para impulsar su software de piloto automático, para evitar posibles conflictos de intereses, Musk no pudo continuar en OpenAI. Trató de persuadir a Altman para que fusionara OpenAI con Tesla, pero fue rechazado; además, también estaba muy insatisfecho con la dirección de comercialización gradual de OpenAI, por lo que finalmente rompió con el equipo de OpenAI.
Mirando retrospectivamente el panorama empresarial actual de Musk, cada empresa representa su solución a la crisis de la IA: SpaceX puede construir el Arca de Noé para preservar el fuego de la civilización, Neuralink, una empresa de interfaz cerebro-computadora, puede hacer que los cuerpos humanos sean más flexibles. Tesla recibe y procesa 160 mil millones de cuadros de video de las cámaras de los automóviles todos los días. Estos datos del mundo real pueden usarse para el entrenamiento de "inteligencia artificial general (AGI)", y el robot humanoide Optimus se convertirá en el portador físico de AGI. Se pueden integrar todo tipo de recursos en su nueva empresa: xAI.
En la primera mitad de este año, la ola de IA liderada por OpenAI no solo le quitó el foco de atención a Musk, sino que también lo hizo preocuparse más de que estos sistemas de IA controlados por grandes empresas puedan propagar "virus culturales que despiertan" y envenenar los corazones de los adolescentes estadounidenses. Existe la preocupación de que los sistemas de inteligencia artificial de autoaprendizaje actuales puedan volverse hostiles a los humanos y que los robots entrenados con datos de Twitter puedan producir información falsa o engañosa.
Estaba ansioso por entrar en acción, resentido por haber fundado y financiado OpenAI pero ahora estaba siendo marginado. La IA es la mayor tormenta que se avecina. Nadie ama más las tormentas que Musk.
Por lo tanto, en la primera mitad del año, Musk lanzó un feroz ataque contra OpenAI y Altman personalmente. Altman pudo entender la agresividad de Musk. En una entrevista, dijo que aunque Musk se comportaba como un imbécil, creía que era cierto. Algunos son Estamos muy preocupados por el campo de la IA y preocupados por el futuro de la humanidad.
Musk cree que está en la posición de liderazgo en la pista AGI.
Aunque no pude ponerme al día con la tendencia y construir un chatbot de IA cuando la ola de IA estaba en su apogeo. Pero Musk cree que todavía está por delante en la carrera hacia AGI.
Él cree que los chatbots que solo pueden generar texto tienen un uso limitado y la atención se centra en los robots físicos inteligentes. Por un lado, Tesla ya cuenta con tecnología avanzada de conducción autónoma y el robot humanoide Optimus; por otro, los tweets de cientos de millones de usuarios en Twitter y las cámaras en el cuerpo de Tesla también proporcionan datos suficientes para el desarrollo de AGI.
Por lo tanto, confía en poder crear AGI más rápido que OpenAI:
Hasta hace poco, Musk seguía pensando en cómo reducir los riesgos de la IA y permitir que la conciencia humana se transmitiera de generación en generación.
Cree que el nivel de inteligencia de los seres humanos se está estabilizando y cada vez hay menos recién nacidos. Al mismo tiempo, la inteligencia de las computadoras está creciendo exponencialmente, como la "Ley de Moore sobre los esteroides". La capacidad intelectual biológica palidece en comparación con la capacidad intelectual digital.
Musk cree que el "momento de singularidad" en el que la IA avanza sola a una velocidad incontrolada, dejando atrás a los humanos, llegará antes de lo que esperábamos.