Twitter, Tesla y xAI trabajan juntos, ¿AGI puede ser un gran problema?
“El objetivo de xAI es construir una AGI (inteligencia general artificial) decente cuyo primer propósito es tratar de comprender el universo”, dijo Elon Musk.
Hace unas horas, se dieron a conocer los cofundadores de xAI y la misteriosa compañía de inteligencia artificial de Musk anunció sus planes.
Hace dos días, Musk anunció el establecimiento de xAI en Twitter.Hoy, la autopresentación de xAI utilizó la audioconferencia de Twitter Spaces, y más de 34 000 oyentes participaron en la transmisión en vivo. Musk parece querer agregar un poco de atributos de plataforma de oficina a Twitter, pero hay tantos oyentes, la plataforma alguna vez estuvo abarrotada y el evento de transmisión en vivo se retrasó por un tiempo.
Durante una introducción de una hora y media de duración y una sesión de control de calidad, el hombre más rico del mundo y líder de Tesla, SpaceX y Twitter describió los objetivos de la nueva empresa, xAI.
En general, incluyendo pero no limitado a los siguientes puntos:
xAI lanzará nuevas herramientas al público tan pronto como sea posible, los primeros detalles del producto se anunciarán en unas pocas semanas
*Las empresas trabajarán en la construcción de inteligencia artificial que combinará texto, imágenes y el mundo real
La empresa trabajará en estrecha colaboración con empresas como Tesla y Twitter
Cualquier persona común puede votar por el futuro de xAI
Parece que Musk no solo está construyendo una empresa que compara OpenAI, sino que también tiene un nuevo concepto de gestión de una empresa.
Objetivo: explorar el universo desconocido
Musk dijo que el objetivo fundamental de xAI es entender "qué diablos está pasando realmente".
Con base en este objetivo, la visión original de xAI parece estar más enfocada en responder preguntas científicas profundas, en lugar de competir de frente con OpenAI, Google y Microsoft para crear productos de IA de grado de consumo. Musk dejó en claro que su nueva compañía reemplazará a las grandes empresas de inteligencia artificial actuales, pero xAI aún se encuentra en la "etapa incipiente" y llevará tiempo ponerse al día con OpenAI y Google.
En tiempos recientes, las capacidades de una nueva ola de herramientas de IA como ChatGPT han asombrado a los expertos, y algunos en la industria han adelantado el cronograma para lograr AGI. Pero la tecnología actual sigue siendo una forma convencional de procesamiento del lenguaje natural: los modelos generan contenido al predecir la siguiente palabra, y no hay evidencia de que este enfoque pueda resolver problemas científicos desconocidos. Muchos investigadores de inteligencia artificial dicen que la inteligencia artificial a nivel humano, en todo caso, puede estar a décadas de distancia.
Musk dijo que las preguntas no resueltas sobre "la naturaleza de la materia oscura" y "cómo funciona la gravedad" pueden ser los objetivos que xAI está tratando de explorar. Habló en detalle sobre la "Paradoja de Fermi", un problema teórico que explica la contradicción entre la sobreestimación de la existencia de civilizaciones extraterrestres y la falta de evidencia relevante.
Jimmy Ba, profesor de la Universidad de Toronto que se unió a la empresa de Musk e inventor del optimizador Adam, dijo que xAI está comprometida con la creación de una inteligencia artificial que pueda ayudar a resolver una serie de problemas que enfrentan los humanos, "(Lo que debe ser discutido) es cómo construir máquinas de resolución de problemas generales para ayudar a todos, superar los problemas más desafiantes y ambiciosos, y cómo podemos usar estas herramientas para mejorarnos a nosotros mismos".
Musk ha criticado a los chatbots existentes por sesgo, aunque dijo que la inteligencia artificial de xAI podría ofender a las personas porque dice la "verdad". Musk ha hablado abiertamente sobre los riesgos de la inteligencia artificial durante años y dijo en 2014 que inventar una superinteligencia sería como "convocar a un demonio" que podría representar una amenaza existencial para la humanidad.
Otros son un reto, pero para mí esto es una ventaja
Los principales desafíos en la construcción de modelos grandes se encuentran en los datos y el poder de cómputo. Musk dijo que xAI trabajará en estrecha colaboración con Twitter y Tesla. Pero por otro lado, estas dos últimas son empresas cotizadas, y esta tendencia de zurdos y diestros ha suscitado las críticas de los inversores.
En los últimos meses, Musk se ha quejado de que OpenAI y otras compañías de inteligencia artificial toman datos de Twitter para ayudar a entrenar modelos grandes y luego limitan la cantidad de visitas diarias de los usuarios de Twitter, lo que ha causado un gran revuelo.
Musk afirmó que todas las organizaciones de inteligencia artificial del planeta "han sido entrenadas con los datos de Twitter, lo cual es ilegal en todos los casos". Por el contrario, xAI utilizará datos públicos en Twitter (no limitados a texto, sino también a imágenes y videos) para entrenar los sistemas y productos de inteligencia artificial "más curiosos" que espera construir.
Además de Twitter, Musk también posee otra empresa estrechamente relacionada con la IA, Tesla, que cuenta con un sólido equipo de inteligencia artificial y lleva años trabajando en la exploración de la conducción autónoma.
“Vamos a trabajar con Tesla en chips y tal vez en software de inteligencia artificial”, dijo Musk sobre el chip de supercomputación personalizado de Tesla. "Obviamente, cualquier conexión con Tesla tiene que ser un trato de plena competencia, porque Tesla es una empresa pública con una base de inversores diversa".
Entrenar los "modelos de lenguaje grande" que forman la columna vertebral de las herramientas modernas de IA requiere poder de cómputo de IA masivamente paralelizado para procesar datos, un proceso extremadamente complejo y costoso. Tesla anunció su supercomputadora Dojo de desarrollo propio el año pasado y afirmó que se usará para construir tecnología de conducción autónoma.
Musk dijo que el "hardware de cuarta generación" que ha enviado Tesla es de tres a cinco veces más potente que la tercera generación, y prometió que el "hardware de quinta generación" se lanzará en unos pocos años y será cuatro veces más potente que el versión actual a cinco veces.
En el evento xAI, Musk dijo que la nueva empresa, por supuesto, necesitaría poder de cómputo, pero insinuó que no usaría tanto como otras empresas. Igor Babuschkin, ex investigador de Google y OpenAI que se unió a xAI, dijo que el equipo seguirá siendo relativamente pequeño.
Inteligencia artificial segura a los ojos de Musk
Durante mucho tiempo, realizar AGI ha sido el objetivo final de muchos investigadores. Los humanos, sin embargo, están emocionados y aterrorizados por este objetivo, ya que AGI podría amenazar el dominio de los humanos u otras especies en este planeta.
Musk pasó mucho tiempo explicando su punto de vista sobre cómo construir lo que él llama una "superinteligencia" segura. Este enfoque, como él lo llama, promueve la supervivencia humana, no la extinción.
Musk dijo que la forma más segura es construir un AGI que sea extremadamente curioso y que busque la verdad, y que minimice la diferencia entre la verdad real y la real.
Para una superinteligencia que busca la verdad, tener rasgos humanos es mucho más interesante que no tenerlos, por lo que esta es la forma más segura de crear una inteligencia segura. Musk usó el ejemplo del espacio y Marte para ilustrar: "Por ejemplo, cuando observas los diversos planetas, lunas y asteroides del sistema solar, aunque son muy interesantes, se ven eclipsados por el nivel de interés de los humanos". dicho.
Musk también enfatizó que ha pasado años pensando y preocupándose por la seguridad de la inteligencia artificial, y afirmó que ha sido una de las voces más fuertes que piden la regulación de la inteligencia artificial. En su opinión, la IA y los humanos que la supervisan pueden mantenerse a salvo maximizando la curiosidad y los procesos de búsqueda de la verdad.
Después del auge de ChatGPT, Musk ha advertido repetidamente a las personas que estén atentas a la IA y ha pedido a la sociedad que fortalezca la supervisión de la IA. En marzo de este año, Musk también firmó una carta abierta suspendiendo el entrenamiento de sistemas de inteligencia artificial más fuertes que GPT-4 durante al menos 6 meses. Sin embargo, casi de ida y vuelta, también en marzo, Musk registró una empresa llamada X.AI Corp en Nevada, que incluía a Musk como el único director. Ahora, Musk anunció oficialmente el establecimiento de xAI. Parece un gran cambio.
La razón que dio Musk fue que la pausa ya no parecía realista y esperaba que xAI proporcionara un camino alternativo.
"Si pudiera pausar la IA o el desarrollo avanzado de superinteligencia de IA, lo haría. Pero eso no parece realista, por lo que xAI es esencialmente construir una inteligencia artificial... en el buen sentido, con suerte", dijo.
Reiterar la historia con OpenAI
Bajo la influencia de ChatGPT, OpenAI se convirtió rápidamente en la institución de investigación de IA más popular del mundo.
Y Musk tiene una relación profunda con OpenAI, y es uno de los cofundadores de la empresa. OpenAI se fundó en 2015 como una institución de investigación sin fines de lucro. Su visión es construir una inteligencia artificial general (AGI) segura y beneficiosa para los humanos. En ese momento, Musk, Sam Altman y otros invirtieron mil millones de dólares para establecerla.
Pero tres años después, en 2018, Musk se fue.La razón pública fue que quería centrarse en las operaciones de Tesla.
En 2016, el CEO de Nvidia, Huang Renxun, entregó personalmente la primera supercomputadora DGX-1 a OpenAI y se tomó una foto con Musk.
En 2019, OpenAI se transformó en una empresa con fines de lucro llamada OpenAI LP, controlada por una empresa matriz llamada OpenAI Inc.
Meses después del cambio de formato, Microsoft anunció una inyección de capital de mil millones de dólares. La asociación de OpenAI con Microsoft significa permitir que este último comercialice parte de su tecnología, y lo siguiente es una serie de grandes eventos en el campo tecnológico reciente con el que estamos familiarizados.
El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Microsoft, Satya Nadella.
Al hablar sobre la intención original de fundar OpenAI, Musk recordó que era un amigo cercano del cofundador de Google, Larry Page. Después de que Google adquirió DeepMind en 2014, Musk dijo que tuvo una serie de conversaciones con Page sobre la seguridad de la IA. Según Musk, esas conversaciones no han sido fluidas y sus puntos de vista y los de Page difieren mucho.
Como resultado, Musk se dio cuenta de que tenía que haber lo que llamó un contrapeso a Google y su influencia en la inteligencia artificial. Esta fuerza de contrapeso es OpenAI. El objetivo original de Musk de establecer OpenAI era de código abierto y sin fines de lucro.
"Ahora, debido a que al destino le gusta la ironía, OpenAI es de código cerrado. Es francamente codicioso de ganancias", dijo Musk.
Musk espera que OpenAI no se desvíe de su visión fundacional, que es ayudar a los humanos a existir.
Musk: AGI saldrá en 2029, esa es la fecha límite
Musk enfatizó que, en su opinión, está claro que AGI está en el horizonte y sucederá pronto. Por lo tanto, se dio cuenta de que tenía dos opciones, ser un espectador o ser un participante. Como participante, puede influir en el resultado, convertirse en competidor.
Musk dijo: "Creo que podemos crear una alternativa competitiva, con suerte mejor que Google DeepMind, OpenAI o Microsoft. En este sentido, xAI necesita desarrollar tecnología que "entienda el mundo físico, no solo Internet", cree que la conducción de Tesla. Los datos ayudarán en este sentido.
Si bien Musk no especificó con qué eficacia xAI competirá con sus rivales, sí describió un cronograma específico en el que espera que AGI sea práctico: alrededor de 2029.
Sin embargo, no podemos creer del todo el tiempo objetivo establecido por Musk, porque se ha fijado objetivos como enviar humanos a Marte con SpaceX, lanzar el servicio de taxi autónomo de Tesla, permitir que los propietarios de automóviles alquilen sus propios vehículos autónomos, etc. Ninguno de estos están implementados.
En general, xAI, una empresa que quiere hacer grandes cosas, todavía está en las primeras etapas de construcción y hay muchos detalles por discutir. A pesar de la falta de claridad sobre la dirección, la compañía parece estar ofreciendo cierta transparencia, y Musk dice que seguirá aceptando comentarios externos a medida que avanza el trabajo, una lección que aprendió en Twitter.
"Como con todo, creo que estamos muy abiertos a los comentarios críticos y los agradecemos", dijo Musk sobre su trabajo en xAI. "En realidad, una de las cosas que me encantan de Twitter es que hay muchos comentarios negativos en la plataforma, lo que me ayuda a motivarme".
Contenido de referencia:
Ver originales
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Musk fija un objetivo para xAI: lograr inteligencia artificial general en 2029, esta es la fecha límite
“El objetivo de xAI es construir una AGI (inteligencia general artificial) decente cuyo primer propósito es tratar de comprender el universo”, dijo Elon Musk.
Hace unas horas, se dieron a conocer los cofundadores de xAI y la misteriosa compañía de inteligencia artificial de Musk anunció sus planes.
Hace dos días, Musk anunció el establecimiento de xAI en Twitter.Hoy, la autopresentación de xAI utilizó la audioconferencia de Twitter Spaces, y más de 34 000 oyentes participaron en la transmisión en vivo. Musk parece querer agregar un poco de atributos de plataforma de oficina a Twitter, pero hay tantos oyentes, la plataforma alguna vez estuvo abarrotada y el evento de transmisión en vivo se retrasó por un tiempo.
En general, incluyendo pero no limitado a los siguientes puntos:
Parece que Musk no solo está construyendo una empresa que compara OpenAI, sino que también tiene un nuevo concepto de gestión de una empresa.
Objetivo: explorar el universo desconocido
Musk dijo que el objetivo fundamental de xAI es entender "qué diablos está pasando realmente".
En tiempos recientes, las capacidades de una nueva ola de herramientas de IA como ChatGPT han asombrado a los expertos, y algunos en la industria han adelantado el cronograma para lograr AGI. Pero la tecnología actual sigue siendo una forma convencional de procesamiento del lenguaje natural: los modelos generan contenido al predecir la siguiente palabra, y no hay evidencia de que este enfoque pueda resolver problemas científicos desconocidos. Muchos investigadores de inteligencia artificial dicen que la inteligencia artificial a nivel humano, en todo caso, puede estar a décadas de distancia.
Musk dijo que las preguntas no resueltas sobre "la naturaleza de la materia oscura" y "cómo funciona la gravedad" pueden ser los objetivos que xAI está tratando de explorar. Habló en detalle sobre la "Paradoja de Fermi", un problema teórico que explica la contradicción entre la sobreestimación de la existencia de civilizaciones extraterrestres y la falta de evidencia relevante.
Jimmy Ba, profesor de la Universidad de Toronto que se unió a la empresa de Musk e inventor del optimizador Adam, dijo que xAI está comprometida con la creación de una inteligencia artificial que pueda ayudar a resolver una serie de problemas que enfrentan los humanos, "(Lo que debe ser discutido) es cómo construir máquinas de resolución de problemas generales para ayudar a todos, superar los problemas más desafiantes y ambiciosos, y cómo podemos usar estas herramientas para mejorarnos a nosotros mismos".
Musk ha criticado a los chatbots existentes por sesgo, aunque dijo que la inteligencia artificial de xAI podría ofender a las personas porque dice la "verdad". Musk ha hablado abiertamente sobre los riesgos de la inteligencia artificial durante años y dijo en 2014 que inventar una superinteligencia sería como "convocar a un demonio" que podría representar una amenaza existencial para la humanidad.
Otros son un reto, pero para mí esto es una ventaja
Los principales desafíos en la construcción de modelos grandes se encuentran en los datos y el poder de cómputo. Musk dijo que xAI trabajará en estrecha colaboración con Twitter y Tesla. Pero por otro lado, estas dos últimas son empresas cotizadas, y esta tendencia de zurdos y diestros ha suscitado las críticas de los inversores.
En los últimos meses, Musk se ha quejado de que OpenAI y otras compañías de inteligencia artificial toman datos de Twitter para ayudar a entrenar modelos grandes y luego limitan la cantidad de visitas diarias de los usuarios de Twitter, lo que ha causado un gran revuelo.
Musk afirmó que todas las organizaciones de inteligencia artificial del planeta "han sido entrenadas con los datos de Twitter, lo cual es ilegal en todos los casos". Por el contrario, xAI utilizará datos públicos en Twitter (no limitados a texto, sino también a imágenes y videos) para entrenar los sistemas y productos de inteligencia artificial "más curiosos" que espera construir.
Además de Twitter, Musk también posee otra empresa estrechamente relacionada con la IA, Tesla, que cuenta con un sólido equipo de inteligencia artificial y lleva años trabajando en la exploración de la conducción autónoma.
“Vamos a trabajar con Tesla en chips y tal vez en software de inteligencia artificial”, dijo Musk sobre el chip de supercomputación personalizado de Tesla. "Obviamente, cualquier conexión con Tesla tiene que ser un trato de plena competencia, porque Tesla es una empresa pública con una base de inversores diversa".
Entrenar los "modelos de lenguaje grande" que forman la columna vertebral de las herramientas modernas de IA requiere poder de cómputo de IA masivamente paralelizado para procesar datos, un proceso extremadamente complejo y costoso. Tesla anunció su supercomputadora Dojo de desarrollo propio el año pasado y afirmó que se usará para construir tecnología de conducción autónoma.
En el evento xAI, Musk dijo que la nueva empresa, por supuesto, necesitaría poder de cómputo, pero insinuó que no usaría tanto como otras empresas. Igor Babuschkin, ex investigador de Google y OpenAI que se unió a xAI, dijo que el equipo seguirá siendo relativamente pequeño.
Inteligencia artificial segura a los ojos de Musk
Durante mucho tiempo, realizar AGI ha sido el objetivo final de muchos investigadores. Los humanos, sin embargo, están emocionados y aterrorizados por este objetivo, ya que AGI podría amenazar el dominio de los humanos u otras especies en este planeta.
Musk pasó mucho tiempo explicando su punto de vista sobre cómo construir lo que él llama una "superinteligencia" segura. Este enfoque, como él lo llama, promueve la supervivencia humana, no la extinción.
Musk dijo que la forma más segura es construir un AGI que sea extremadamente curioso y que busque la verdad, y que minimice la diferencia entre la verdad real y la real.
Para una superinteligencia que busca la verdad, tener rasgos humanos es mucho más interesante que no tenerlos, por lo que esta es la forma más segura de crear una inteligencia segura. Musk usó el ejemplo del espacio y Marte para ilustrar: "Por ejemplo, cuando observas los diversos planetas, lunas y asteroides del sistema solar, aunque son muy interesantes, se ven eclipsados por el nivel de interés de los humanos". dicho.
Musk también enfatizó que ha pasado años pensando y preocupándose por la seguridad de la inteligencia artificial, y afirmó que ha sido una de las voces más fuertes que piden la regulación de la inteligencia artificial. En su opinión, la IA y los humanos que la supervisan pueden mantenerse a salvo maximizando la curiosidad y los procesos de búsqueda de la verdad.
Después del auge de ChatGPT, Musk ha advertido repetidamente a las personas que estén atentas a la IA y ha pedido a la sociedad que fortalezca la supervisión de la IA. En marzo de este año, Musk también firmó una carta abierta suspendiendo el entrenamiento de sistemas de inteligencia artificial más fuertes que GPT-4 durante al menos 6 meses. Sin embargo, casi de ida y vuelta, también en marzo, Musk registró una empresa llamada X.AI Corp en Nevada, que incluía a Musk como el único director. Ahora, Musk anunció oficialmente el establecimiento de xAI. Parece un gran cambio.
La razón que dio Musk fue que la pausa ya no parecía realista y esperaba que xAI proporcionara un camino alternativo.
"Si pudiera pausar la IA o el desarrollo avanzado de superinteligencia de IA, lo haría. Pero eso no parece realista, por lo que xAI es esencialmente construir una inteligencia artificial... en el buen sentido, con suerte", dijo.
Reiterar la historia con OpenAI
Bajo la influencia de ChatGPT, OpenAI se convirtió rápidamente en la institución de investigación de IA más popular del mundo.
Y Musk tiene una relación profunda con OpenAI, y es uno de los cofundadores de la empresa. OpenAI se fundó en 2015 como una institución de investigación sin fines de lucro. Su visión es construir una inteligencia artificial general (AGI) segura y beneficiosa para los humanos. En ese momento, Musk, Sam Altman y otros invirtieron mil millones de dólares para establecerla.
Pero tres años después, en 2018, Musk se fue.La razón pública fue que quería centrarse en las operaciones de Tesla.
En 2019, OpenAI se transformó en una empresa con fines de lucro llamada OpenAI LP, controlada por una empresa matriz llamada OpenAI Inc.
Meses después del cambio de formato, Microsoft anunció una inyección de capital de mil millones de dólares. La asociación de OpenAI con Microsoft significa permitir que este último comercialice parte de su tecnología, y lo siguiente es una serie de grandes eventos en el campo tecnológico reciente con el que estamos familiarizados.
Al hablar sobre la intención original de fundar OpenAI, Musk recordó que era un amigo cercano del cofundador de Google, Larry Page. Después de que Google adquirió DeepMind en 2014, Musk dijo que tuvo una serie de conversaciones con Page sobre la seguridad de la IA. Según Musk, esas conversaciones no han sido fluidas y sus puntos de vista y los de Page difieren mucho.
Como resultado, Musk se dio cuenta de que tenía que haber lo que llamó un contrapeso a Google y su influencia en la inteligencia artificial. Esta fuerza de contrapeso es OpenAI. El objetivo original de Musk de establecer OpenAI era de código abierto y sin fines de lucro.
"Ahora, debido a que al destino le gusta la ironía, OpenAI es de código cerrado. Es francamente codicioso de ganancias", dijo Musk.
Musk espera que OpenAI no se desvíe de su visión fundacional, que es ayudar a los humanos a existir.
Musk: AGI saldrá en 2029, esa es la fecha límite
Musk enfatizó que, en su opinión, está claro que AGI está en el horizonte y sucederá pronto. Por lo tanto, se dio cuenta de que tenía dos opciones, ser un espectador o ser un participante. Como participante, puede influir en el resultado, convertirse en competidor.
Musk dijo: "Creo que podemos crear una alternativa competitiva, con suerte mejor que Google DeepMind, OpenAI o Microsoft. En este sentido, xAI necesita desarrollar tecnología que "entienda el mundo físico, no solo Internet", cree que la conducción de Tesla. Los datos ayudarán en este sentido.
Si bien Musk no especificó con qué eficacia xAI competirá con sus rivales, sí describió un cronograma específico en el que espera que AGI sea práctico: alrededor de 2029.
Sin embargo, no podemos creer del todo el tiempo objetivo establecido por Musk, porque se ha fijado objetivos como enviar humanos a Marte con SpaceX, lanzar el servicio de taxi autónomo de Tesla, permitir que los propietarios de automóviles alquilen sus propios vehículos autónomos, etc. Ninguno de estos están implementados.
En general, xAI, una empresa que quiere hacer grandes cosas, todavía está en las primeras etapas de construcción y hay muchos detalles por discutir. A pesar de la falta de claridad sobre la dirección, la compañía parece estar ofreciendo cierta transparencia, y Musk dice que seguirá aceptando comentarios externos a medida que avanza el trabajo, una lección que aprendió en Twitter.
"Como con todo, creo que estamos muy abiertos a los comentarios críticos y los agradecemos", dijo Musk sobre su trabajo en xAI. "En realidad, una de las cosas que me encantan de Twitter es que hay muchos comentarios negativos en la plataforma, lo que me ayuda a motivarme".
Contenido de referencia: