- Tema
22 Popularidad
29k Popularidad
14k Popularidad
2k Popularidad
917 Popularidad
5k Popularidad
4k Popularidad
11k Popularidad
45k Popularidad
136k Popularidad
- Anclado
22 Popularidad
29k Popularidad
14k Popularidad
2k Popularidad
917 Popularidad
5k Popularidad
4k Popularidad
11k Popularidad
45k Popularidad
136k Popularidad
Silicon Valley está discutiendo acaloradamente la "singularidad" de la inteligencia artificial: ¿Ha llegado la era de las máquinas superando a los humanos?
Fuente original: 36 criptón
Nota del editor: El surgimiento de la inteligencia artificial ha llevado al frente el concepto de "singularidad". Muchas personas en Silicon Valley creen que la inteligencia artificial cambiará por completo la sociedad humana. Sin embargo, también existen preocupaciones sobre las posibles consecuencias negativas de la IA, incluida la posibilidad de que pueda destruir a la humanidad. Este artículo proviene de una compilación, en la que el autor analiza el concepto de "singularidad", analiza el entusiasmo y las preocupaciones de Silicon Valley sobre la inteligencia artificial y destaca los posibles beneficios y riesgos de esta tecnología.
Durante décadas, Silicon Valley ha anticipado el surgimiento de una nueva tecnología que revolucionará los estilos de vida humanos, las economías, las instituciones sociales y más. Puede unir a humanos y máquinas, posiblemente brindando oportunidades y desafíos sin precedentes, y dividiendo la historia en dos eras "antes" y "después".
El nombre de este hito se puede llamar "Singularidad".
Las singularidades pueden surgir de varias maneras. Una posibilidad es que las personas se hayan vuelto más poderosas al incorporar el poder de procesamiento de las computadoras en su propia inteligencia innata. O bien, la computadora podría volverse tan compleja que realmente puede pensar, creando un "cerebro global".
Cualquiera de los escenarios traerá cambios drásticos y exponenciales, ninguno de los cuales puede revertirse. Una máquina superinteligente consciente de sí misma capaz de diseñar, mejorar y actualizarse a sí misma mucho más rápido que cualquier equipo de científicos seguramente provocaría una explosión intelectual. Los avances realizados en los últimos siglos pueden ser innovadores en unos pocos años o incluso meses. La singularidad es una catapulta hacia el futuro.
Hoy, la inteligencia artificial está generando olas sin precedentes en la tecnología, los negocios y la política. A juzgar por toda la hipérbole y el absurdo que sale de Silicon Valley, parece que este futuro extremadamente prometedor finalmente está aquí.
Sundar Pichai, el director general generalmente discreto de Google, dijo que "la inteligencia artificial ha superado al fuego, la electricidad o cualquier logro tecnológico anterior en importancia e impacto". El inversionista multimillonario Reid Hoffman (Reid Hoffman) dijo: "El mundo marcará el comienzo de una fuerza sin precedentes, que impulsará a toda la sociedad humana hacia adelante". El cofundador de Microsoft, Bill Gates (Bill Gates), declaró que la inteligencia artificial "cambiará la forma las personas trabajan, aprenden, viajan, obtienen atención médica y se comunican entre sí".
La inteligencia artificial es el último producto nuevo de Silicon Valley, capaz de capacidades sobrehumanas bajo demanda.
Pero también hay un problema oculto que no se puede ignorar. Es como si las empresas de tecnología lanzaran autos sin conductor con un mensaje de advertencia de que podrían explotar en el camino a Walmart.
En mayo de este año, Elon Musk, el jefe de Tesla y Twitter, dijo en una entrevista con el Consumer News and Business Channel (CNBC) de EE. UU.: "La aparición de la inteligencia artificial general se llama un milagro. El punto es que después de esto , será difícil predecir lo que sucederá después". Él cree que marcaremos el comienzo de "una era de abundancia" (una era de abundancia), pero el riesgo de que la inteligencia artificial "destruya a la humanidad" es "todavía inaceptable". ignorar ".
En el mundo de la tecnología, el mayor defensor de la inteligencia artificial es Sam Altman, director ejecutivo de la empresa estadounidense de inteligencia artificial OpenAI. El chatbot ChatGPT de la startup, lanzado el año pasado, también ha despertado un entusiasmo continuo. Altman dijo que la IA será "la mayor fuerza en el empoderamiento económico y la riqueza para muchos".
Sin embargo, para Musk, quien fundó la compañía que desarrolla tecnología de interfaz cerebro-computadora, también siente que las críticas de Musk están justificadas.
No hace mucho, Altman firmó una carta abierta conjunta patrocinada por la organización sin fines de lucro "Centro para la seguridad de la IA" (Centro para la seguridad de la IA). "Prevenir el riesgo de extinción que plantea la inteligencia artificial debería ser una prioridad global", a la par de "pandemias y guerras nucleares", decía la carta. Otros firmantes incluyen colegas de la empresa OpenAI e informáticos de Microsoft y Google.
El apocalipsis es un tema familiar, incluso popular, en Silicon Valley. Hace unos años, casi todos los ejecutivos de tecnología parecían haber construido un refugio del fin del mundo en algún lugar en medio de la nada, bien equipado en caso de que lo necesitaran. En 2016, Altman también dijo que "se abasteció de armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras antigás de las FDI y construyó un enorme refugio en Big Sur al que se puede volar". hizo que estos sobrevivientes tecnológicos se sintieran reivindicados, al menos por un tiempo.
Ahora, se están preparando para la llegada de la singularidad.
Al respecto, Baldur Bjarnason, autor de "La ilusión de la inteligencia", dijo: "Piensan que son muy sabios, pero sus palabras son más como 1000 dC. Monjes hablando sobre el apocalipsis. Es un poco preocupante".
Origen de "Más allá"
Los orígenes del concepto de "singularidad" se remontan al pionero de la informática John von Neumann en la década de 1950. Von Neumann predijo una vez que el "progreso de la tecnología en constante aceleración" conduciría a "una singularidad fundamental en la historia humana".
El matemático británico Irving John Good también fue un fuerte defensor de este punto de vista. Ayudó al gobierno británico a descifrar la máquina de cifrado alemana Enigma en Bletchley Park (Bletchley Park, el lugar principal donde el gobierno británico llevó a cabo el descifrado de códigos durante la Segunda Guerra Mundial). En 1964, escribió: "La construcción temprana de máquinas superinteligentes es la clave para la supervivencia de la humanidad".
Cuando el director de cine estadounidense Stanley Kubrick dirigió la filmación de la película de ciencia ficción 2001: A Space Odyssey, le pidió consejo a Goode sobre el personaje de inteligencia artificial HAL, que se convirtió en un malicioso personaje de la película, un ejemplo temprano de la frontera borrosa entre la informática y la ciencia. ciencia ficción.
Hans Moravec, profesor adjunto del Instituto de Robótica de la Universidad Carnegie Mellon, cree que la llegada de la Singularidad no solo beneficiará a los vivos, sino que también devolverá la vida a los muertos.
"Tendremos la oportunidad de recrear e interactuar con el pasado de manera real e inmediata", escribe en Mind Children: The Future of Robot and Human Intelligence Road.
El empresario e inventor Ray Kurzweil también ha sido el mayor defensor de la Singularidad en los últimos años. Kurzweil es el autor de The Age of Intelligent Machines en 1990 y The Singularity Is Near en 2005. Kurzweil actualmente está escribiendo el libro The Singularity Is Near.
Él predice que para fines de esta década, las computadoras pasarán la prueba de Turing y serán indistinguibles de los humanos. Otros quince años después, llegará la verdadera trascendencia: "Cuando la tecnología informática se integre en nosotros, nuestra inteligencia se verá muy mejorada, quizás cientos de veces".
Kurzweil tendría 97 años para entonces. Con la ayuda de varias vitaminas y suplementos, espera vivir para ver llegar esta era.
Algunos críticos de la Singularidad creen que el concepto de la Singularidad intenta crear un sistema de creencias en el campo del software que es similar a una creencia religiosa organizada.Apoyado por evidencia científica rigurosa, es difícil ser convincente.
"Todos quieren la inmortalidad, pero no quieren creer en 'Dios'", dijo Rodney Brooks, exdirector del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT.
Hoy, las innovaciones en la controversia de la "Singularidad" involucran principalmente modelos de lenguaje grande (LLM), el sistema de inteligencia artificial que también está en el corazón del desarrollo de los chatbots. Hable con estos grandes modelos de lenguaje, y pueden responder preguntas de manera rápida, coherente y, a menudo, respuestas bastante esclarecedoras.
Según Jerry Kaplan, un emprendedor de inteligencia artificial desde hace mucho tiempo y autor de Inteligencia artificial: lo que todos necesitan saber, "cuando le pregunta a un modelo de lenguaje grande, finalmente, comprende el significado de la pregunta, determina cuál debe ser la respuesta y luego presenta la responder en lenguaje escrito. Si esta no es la definición de inteligencia general, ¿cuál es?"
Kaplan también dijo que es escéptico con respecto a las tecnologías de alto perfil, como los automóviles sin conductor y las criptomonedas. Del mismo modo, anteriormente se mostró escéptico sobre la última moda de la IA, pero ha comenzado a cambiar de opinión sobre la IA después de ver el potencial que presenta.
"Si esto no es la 'singularidad', entonces ciertamente lo es. Es una tecnología con un gran impacto que hará avanzar significativamente a la humanidad en las artes, las ciencias y el conocimiento. Y, por supuesto, planteará algunos problemas". añadió.
Los críticos responden que incluso si los modelos de lenguaje grande logran resultados impresionantes, esto no puede igualar la vasta inteligencia global representada por Singularity. Parte del problema de trazar la línea entre la exageración y la realidad es que los principios y algoritmos que impulsan esta tecnología son cada vez más difíciles de revelar.
OpenAI comenzó como una organización sin fines de lucro que utiliza código fuente abierto, pero desde entonces se ha convertido en una empresa con fines de lucro. Algunos críticos señalan que OpenAI ahora es efectivamente una "caja negra" y es difícil para todos entender su funcionamiento interno. En este sentido, Google y Microsoft también tienen un bajo grado de divulgación de información.
Gran parte de la investigación actual sobre inteligencia artificial está dirigida por empresas que se beneficiarán de los resultados. Una versión preliminar del último modelo de OpenAI "demuestra múltiples características inteligentes", que incluyen "capacidad abstracta, comprensión, capacidad visual, capacidad de codificación" y "la capacidad de comprender la motivación y las emociones humanas".
Rylan Schaeffer, estudiante de doctorado en ciencias de la computación en la Universidad de Stanford, dice que algunos investigadores de IA no han sido precisos al describir el "poder emergente" exhibido por estos grandes modelos de lenguaje. Si bien estos modelos de lenguaje grande tienen algunas capacidades desconocidas y difíciles de interpretar, estas capacidades no son evidentes ni están presentes en las versiones de modelo de lenguaje más pequeño.
Schafer y otros dos colegas de Stanford, Brando Miranda y Sanmi Koyejo, examinaron la pregunta en un artículo de investigación publicado en mayo y concluyeron que esta habilidad emergente es solo una "ilusión" causada por errores de medición, no debido a aumentos en el tamaño y la complejidad del modelo. . De hecho, los investigadores pueden estar inclinados a ver los resultados que quieren ver.
Inmortalidad, Inmortalidad
En Washington, Londres y Bruselas, los legisladores están comenzando a reconocer las oportunidades y los problemas que plantea la inteligencia artificial y están comenzando a discutir cuestiones regulatorias. Altman está haciendo un roadshow promocional para OpenAI, con el objetivo de ignorar a los primeros críticos mientras presenta a su empresa como líder en la era de la singularidad.
Esto incluye estar abierto a la regulación, pero la forma específica de regulación aún no está clara. Aún así, existe una percepción generalizada en Silicon Valley de que las agencias gubernamentales son ineficientes y carecen de la experiencia para regular de manera efectiva el sector tecnológico de rápido movimiento.
"No hay nadie en la agencia gubernamental que lo esté haciendo bien", dijo el ex director ejecutivo de Google, Eric Schmidt, al programa de entrevistas de noticias "Meet the Press" a principios de este año ", y planteó la idea de la autorregulación de la inteligencia artificial. “Pero la industria tiene la capacidad dentro de la industria para hacer que las regulaciones sean más o menos correctas”, agregó.
La inteligencia artificial, al igual que la singularidad tecnológica, se ve como irreversible en los cambios que trae consigo. Altman y sus colegas declararon recientemente que "se deben establecer mecanismos de control similares al sistema regulatorio global para frenar el mayor desarrollo de la inteligencia artificial, pero incluso esto no puede garantizar el éxito". él.
Sin embargo, las enormes ganancias generadas por ello rara vez se discuten en la actualidad. A pesar de la percepción popular de que la inteligencia artificial es una máquina que crea riqueza ilimitada, son esencialmente los que ya son ricos quienes realmente se benefician de ella.
Este año, el valor de mercado de Microsoft se ha disparado $ 5 billones. Nvidia, que fabrica chips para sistemas que ejecutan inteligencia artificial, también se ha convertido recientemente en una de las empresas públicas más valiosas de EE. UU. debido a un aumento en la demanda de chips.
"La inteligencia artificial es la tecnología que la sociedad humana siempre ha deseado tener", tuiteó Altman.
Es innegable que se trata de una tecnología que el mundo de la tecnología ha estado esperando y que ha llegado en el momento perfecto.
El año pasado, Silicon Valley sufrió un doble golpe de despidos y aumento de las tasas de interés, mientras que las criptomonedas, después de un período de auge y caída, decayó rápidamente debido al fraude y la decepción que siguió.
“Sigue el dinero”, dice Charles Stross, coautor de The Rapture of the Nerds, una novela de ciencia ficción que retrata con humor la singularidad tecnológica. Stross también es el autor de la novela de ciencia ficción Accelerando, en la que también pinta una imagen más seria y seria de cómo podría ser la vida en el futuro.
"La verdadera oportunidad es que las empresas podrán reemplazar muchas unidades de procesamiento de información operadas por humanos, defectuosas, costosas y que no responden con software, lo que reducirá los costos y aumentará la eficiencia", dijo.
Durante mucho tiempo, la gente ha imaginado la singularidad tecnológica como un evento con impacto global, que puede subvertir por completo el sistema cognitivo humano, y el poder de este cambio es asombroso. Por ahora, esta posibilidad aún existe.
Sin embargo, debido en parte a la búsqueda extrema de ganancias corporativas en Silicon Valley hoy en día, esto conducirá a que la singularidad tecnológica se utilice como una herramienta de despido en primer lugar. En la búsqueda de una capitalización de mercado de un billón de dólares, los problemas menores pueden dejarse de lado por el momento.