Fundador de OpenAI: Somos una organización muy buscadora de la verdad

Fuente: Revista China Entrepreneur

Organización｜Wu Ying

Fuente de la imagen: Generada por la herramienta de IA Unbounded

El 24 de julio, el CEO de OpenAI, Sam Altman (Sam Altman, en lo sucesivo denominado "Altman"), lanzó WorldCoin, un proyecto de criptomoneda desarrollado durante muchos años, que una vez más atrajo la atención generalizada. Altman, como afirma, está trabajando arduamente para lograr una vida mejor para los humanos en un mundo de IA.

Hace tres meses, Sam Altman y el cofundador de OpenAI, Greg Brockman (Greg Brockman, en lo sucesivo denominado "Brockman") aceptaron una entrevista con el podcast estadounidense. Durante la entrevista, las dos figuras centrales de OpenAI explicaron sus puntos de vista sobre la IA. Además, también discutieron el impacto de la IA en varias industrias, los problemas de seguridad y su diseño de inversión fuera de la IA.

Cuando los dos explicaron la visión de OpenAI, acordaron que quieren desarrollar AGI (Inteligencia Artificial General) que sea beneficiosa y segura para toda la humanidad. Con respecto a los temas de seguridad de IA muy debatidos, también reconocieron los riesgos y dijeron que están trabajando arduamente para superarlos. Además, los dos también hablaron sobre inversiones en otros campos, por ejemplo, Altman está particularmente interesado en la industria de energía limpia, mientras que Brockman está interesado en las industrias médica y educativa.

Estos son los aspectos más destacados de la entrevista:

1. Estamos trabajando arduamente para desarrollar una inteligencia artificial general beneficiosa y segura para toda la humanidad.

2. Fundamentalmente, lo que queremos es brindar esta tecnología a todos, eliminar las barreras para que puedan crear, completar nuevas tareas y empujar a los humanos a resolver los problemas que realmente les interesan.

3. Ya no nos detenemos en la etapa de tener un conocimiento primitivo, sino que avanzamos a la segunda etapa: guiar a la máquina para que realice las tareas que le encomendamos y opere de acuerdo con los valores sociales.

4. Hemos construido una cultura de prestar realmente atención a los detalles y tratar de hacerlos bien, lo que atrae una investigación científica y de ingeniería muy cuidadosa de aquellos que quieren trabajar de esa manera.

5. Creo que la energía abundante y limpia puede traer beneficios de otras maneras además de resolver la crisis climática, y que invertir en energía es algo más importante que invertir en cualquier otro insumo que se me ocurra. Financiar un cambio fundamental en el costo de adquisición de energía es una gran cosa.

6. La IA es una herramienta de productividad para todos que mejorará a nuestros mejores científicos y hará avanzar la investigación científica.

A qué industrias afectará la IA en los próximos 3 a 10 años

**Moderador:**Comencemos con las preguntas más básicas. ¿Puede presentar brevemente cuál es la misión de su OpenAI? ¿Cuál es el propósito de todas sus decisiones? **Altman: Estamos trabajando arduamente para desarrollar una inteligencia artificial general beneficiosa y segura para todos los seres humanos. **Este es un proyecto sin precedentes, sé lo difícil que es hacerlo, cometeremos muchos errores en el camino, pero esta es la dirección en la que nos mantenemos. Creo firmemente que la IA será la tecnología más transformadora jamás desarrollada por los seres humanos, en cierto modo, nos ayudará a desarrollar todas las tecnologías futuras, y el futuro es brillante.

Brockman: Hace unos 8 años, cuando comenzamos OpenAI, realmente creía que la inteligencia artificial iba a suceder, y sabía que llevaría mucho tiempo lograrlo, pero pensando que tenemos la oportunidad de influir en esto tecnología Me siento muy entusiasmado con mi desempeño. Nuestra visión es que AGI sea beneficiosa para toda la humanidad, y estamos tratando de lograr este objetivo de varias maneras.

Al principio teníamos tales ideales, pero no sabíamos cómo combinarlos con acciones prácticas. Después de años de arduo trabajo, descubrimos cómo construir un sistema que realmente funcione y cómo integrar nuestros valores. en este sistema. Durante los últimos meses, nos ha complacido que nuestra tecnología se haya convertido poco a poco en la corriente principal y que la gente esté empezando a cosechar los beneficios de nuestra tecnología. **Esta tecnología aún se encuentra en sus primeras etapas y queda mucho por hacer, pero creemos firmemente que todos deben participar y tener voz. ** Averiguar cómo lograr realmente una gobernanza mundial eficaz es tan importante como el desarrollo tecnológico.

Moderador: Alrededor de mil millones de personas en el mundo pertenecen a la clase media con condiciones económicas superiores. También están utilizando libremente la IA para trabajar y estudiar. Entonces, ¿cómo puede la IA beneficiar a los 7 mil millones de personas restantes?

**Brockman: Una característica importante de la IA que desarrollamos es que no hay restricciones de acceso, y todos pueden acceder y usar esta tecnología, ingresar sus preferencias y comentarios en el sistema, y usarlo para mejorar su vida, que es la intención original de nuestro desarrollo de esta tecnología. **

Ahora hay muchas preguntas sobre cómo funcionará esta tecnología. Nuestra empresa tiene una estructura especial, es una organización sin fines de lucro, por lo que si el capital está muy concentrado en OpenAI, no estará en manos de los accionistas, sino que será propiedad de la empresa y, finalmente, se distribuirá al mundo. Cuando las ganancias se distribuyen a todo el mundo, se puede considerar RBU (Renta Básica Universal) y los recursos se asignan de esta manera. **Fundamentalmente, lo que queremos es brindar esta tecnología a todos, eliminar las barreras para que puedan crear, completar nuevas tareas y empujar a los humanos a resolver los problemas que realmente les interesan. **

**Altman: Todo crecimiento económico verdaderamente sostenible proviene del progreso tecnológico, y la cultura y la gestión sociopolítica pueden ayudarnos a lograr el progreso tecnológico. ** Por lo tanto, estamos avanzando en cómo ayudar a los 7 mil millones de personas restantes. En el futuro, nuestra tecnología irá más allá. Creo que la tecnología es la clave para mejorar la calidad de vida de todos.

Moderador:¿Qué tipo de ayuda puede aportar la IA en el campo de la educación?

**Brockman:**Si no hubiera fundado una empresa de inteligencia artificial, habría fundado una empresa de educación en programación. Imagínense si el futuro puede brindarles a los niños un maestro que realmente los entienda, se tome el tiempo para conocerlos, sepa cómo motivarlos, y este maestro esté disponible las 24 horas del día, los 7 días de la semana de forma gratuita, ¿no es así? suena muy bien.

Puede mirar instituciones como Khan Academy [una institución educativa sin fines de lucro], realmente comenzaron a tomar GPT-4 y ponerlo en el aula, y descubrieron cómo canalizar esta tecnología para que se convierta en un mentor útil. Si los niños le pedían que "me ayudara con mi tarea", diría "no, no puedo hacer eso". Y también tratando de descubrir qué les interesa a los niños y cómo motivarlos realmente para hacer más, y ahora estamos entrando en la etapa de cómo aprovecharlo al máximo.

**Moderador:**Mucha gente puede decir que ahora existe Khan Academy y que todavía hay muchos cursos en línea, pero lo que usted presenta son solo ideas y no hay productos reales. ¿Crees que la gente sin educación todavía necesita tus productos?

Brockman: La forma en que nos educan actualmente es a través de esas personas inteligentes que nos enseñan conocimientos y métodos para resolver problemas. En el futuro, si hay una máquina que puede ser más inteligente que los humanos, ¿será posible? más conveniente . **Hemos desarrollado muchos asistentes virtuales, como Alexa (el asistente inteligente lanzado por Amazon) y Siri (el asistente de inteligencia artificial lanzado por Apple), pero para algunos problemas que requieren pensar mentalmente, todavía no es suficiente. , necesitamos tecnología más avanzada para mejorar nuestra capacidad de pensar y resolver problemas. **

Sin duda, funciones como GPT-4 han sido vistas por todos, **Ya no nos quedamos solo en la etapa de tener conocimiento original, sino que avanzamos a la segunda etapa, guiar a la máquina para que realice las tareas que le asignamos, y según Social operan los valores. **Todas estas tecnologías están siendo investigadas y desarrolladas actualmente por nosotros. La próxima fase de pruebas de tecnología y productos tendrá lugar en los próximos años a medida que el uso de la tecnología continúe expandiéndose.

**Moderador:**En los próximos 3 a 10 años, ¿a qué industrias afectará la IA?

Brockman: Creo que esta tecnología se puede aplicar a la industria legal y puede traer muchos beneficios al brindar servicios legales. Mi servicio favorito de GPT-3 es una herramienta llamada Augrented, que ayuda a los inquilinos que reciben avisos de desalojo a comprender los problemas del contrato. Debido a que hay muchas personas en ese grupo demográfico que no necesariamente tienen acceso a un abogado, esta tecnología puede ayudarlos a hacer cosas que de otro modo no podrían hacer. Ese es uno de los casos de uso muy efectivos que hemos visto.

Moderador: Ahora hay un dicho en el mercado que dice que la IA amplifica la inteligencia humana. Por ejemplo, GPT-4 se puede usar para escribir un libro. ¿Qué piensas sobre esto?

Altman: Estoy muy de acuerdo con esta declaración, y esta es la dirección que estamos haciendo todo lo posible para promover. Vi un tweet que me llamó la atención, **Alguien dijo que nunca pensó que coexistiría con una inteligencia poderosa como GPT-4. Te encontrarás en lo más profundo del reino de AGI, y resulta que es completamente posible construir una IA que sea realmente buena para amplificar la voluntad humana y hacernos más fuertes. **Esto hará que nuestro trabajo sea más eficiente y mejor. Además, resulta que a la gente le gusta mucho. Para mí, lo más gratificante de **OpenAI es que a la gente le encantan sus productos y obtienen todo tipo de beneficios inesperados. **

"Somos una organización muy buscadora de la verdad"

Moderador: Cuando su equipo de OpenAI está investigando y desarrollando productos de IA como ChatGPT, ¿se encontró con alguna sorpresa?

**Brockman: La primera sorpresa data de 2017. En ese momento, producimos este artículo llamado "Neuronas emocionales no supervisadas", pero no recibió mucha atención. Pero este es un verdadero avance para nosotros, y realmente necesitamos seguir este paradigma. **Entrenamos un modelo para predecir el próximo carácter en una revisión de Amazon, y pudo aprender dónde están los sustantivos y dónde están los verbos, pero aún más sorprendente, aprendió análisis y clasificación de sentimientos de última generación, que puede saber si su comentario es positivo o negativo. Nunca le dijimos a la máquina el significado de estos lenguajes, de alguna manera lo descubrió al realizar esta tarea. **El aprendizaje automático no es perfecto, todavía tenemos un largo camino por recorrer, aún es pronto, pero podemos comenzar a resolver problemas. **

Es muy significativo para mí permitir que más personas sientan la alegría de programar. Las personas que nunca han programado antes pueden ingresar al campo, y aquellos que ya son buenos programadores pueden completar actividades más creativas.Alcanzar esta capacidad y nivel puede acelerar nuestro flujo de trabajo de codificación.

Moderador:¿Puede ampliar sobre cómo acelerar la codificación?

Brockman: Durante el proceso de codificación, pasamos mucho tiempo recordando exactamente qué bibliotecas hacen lo que estás buscando, cómo implementarlas y cuáles son los parámetros. Y desea construir un sistema o una aplicación, esta es una tarea avanzada, el Copilot anterior (herramienta de programación asistente) es solo repetitivo, son solo de memoria. Ahora el modelo está empezando a mejorar, y si no sabe mucho sobre un lenguaje de programación en particular, o si no conoce un conjunto particular de bibliotecas, el modelo lo proporcionará felizmente. Y lo interesante de GPT-4 es que puede señalar dónde la codificación es incorrecta, y estos mensajes de error a veces son crípticos, y tienes que buscar respuestas, como mirar varios sitios web, tratando de reconstruir lo que otros la gente ha dicho, ahora GPT-4 puede ayudarlo a resolver estos problemas.

**Moderador:**Altman, ¿cuál fue la sorpresa que sentiste?

Altman: Cito una cita de Noam Shazeer (Fundador de Character.AI): "No explicamos por qué estas arquitecturas parecen funcionar, atribuimos estos resultados a la misericordia de Dios". tema recurrente, **Me considero empirista, creo que si algo funciona, cuanto más lo hagas, mejor será. **Las "neuronas afectivas no supervisadas" que Greg acaba de mencionar fueron una gran sorpresa, y ahora algunas de las cosas que hace GPT-4 comienzan a explicar por qué la IA debería funcionar. Creo totalmente en la IA y creo que llegará lejos. **Antes de que comenzáramos con OpenAI, me sorprendí cuando vi los resultados de AlexNet (red neuronal convolucional). **

Moderador: Con solo unos pocos cientos de personas, ha superado el nivel que solo puede alcanzar la compañía de tecnología más grande del mundo. Esto requiere mucho trabajo duro y algo de suerte. Tengo curiosidad por saber, ¿qué te impulsa a lograr este objetivo? ¿Hay líderes clave dentro de OpenAI?

**Altman: Hacemos muchas cosas, algunas a propósito, otras por suerte. Uno de los factores más importantes es que hemos creado una cultura de atención real a los detalles y de tratar de hacerlos bien, atrayendo investigaciones científicas y de ingeniería muy cuidadosas de aquellos que quieren trabajar de esa manera. Otra razón es que creo que somos una organización que busca mucho la verdad, encontrando lo que funciona y haciendo más. **

Cuando comenzamos OpenAI, éramos diferentes de otras investigaciones de IA que existían en el campo, tenían diferentes sistemas de incentivos, y las cosas a considerar estaban dispersas, y asumimos un riesgo muy enfocado, haciendo lo que se consideraba inimaginable en ese momento. cosas. Invertimos la mayor parte de nuestros recursos en este proyecto y, aunque existen riesgos, lo hemos estudiado detenidamente y confiamos en que podemos ofrecer resultados.

**Brockman:**Mi idea es empezar con "primeros principios". En los primeros días, Ilya (científico jefe de OpenAI) debatía conmigo durante una hora más o menos todos los días. Por ejemplo, tuvimos una larga discusión sobre a quién deberíamos contratar, ¿deberíamos contratar a un doctorado tradicional en aprendizaje automático, o deberíamos contratar a un ingeniero de software que nunca haya hecho esto antes, o alguien intermedio? Por cada decisión, debemos ver sus consecuencias, y luego seguiremos aprendiendo y actualizándonos.

No podemos saberlo todo de antemano, pero podemos aprender haciendo. Al igual que OpenAI-Five que desarrollamos y continuamos expandiendo su escala, en la competencia de juegos de Dota2, no se queda atrás en absoluto. (Nota: OpenAI-Five, una inteligencia artificial que puede jugar juegos Dota2, Dota2 es un juego de arena de combate en línea multijugador con una gran cantidad de fanáticos fanáticos. En 2018, desafiaron al equipo campeón mundial OG con todas sus fuerzas).

Este es nuestro primer sistema que realmente escala, y el sistema mejora cada semana a medida que ponemos más poder de cómputo en él. Nuestro objetivo es agotar el espacio de los algoritmos existentes para que podamos desarrollar nuevos algoritmos, que es lo que realmente queremos hacer. Cuando tratas de seguir esta dirección, otra dirección te empuja hacia adelante y dice que funciona. ** Responder a lo que vemos frente a nosotros, actualizar constantemente, pivotar, cambiar, es muy importante desde el punto de vista técnico. **

Altman: Cuando ampliamos el proyecto OpenAI-Five, básicamente nadie pensó que tendría éxito. El hecho de que pueda arrojar cualquier cantidad de cómputo en un sistema de IA para lograr el nivel deseado de inteligencia, y esto cubre una gama increíble de cómputo e inteligencia, es como un descubrimiento científico sorprendente.

Brockman: También analizamos los avances algorítmicos, combinando los mejores sistemas con los mejores algoritmos, y nacieron sistemas como GPT-4. **Cuando pensamos en este problema, nos damos cuenta de que si toda la información de la GPU se ingresa en la cadena de suministro del nuevo algoritmo, o incluso se carga en el sistema de procesamiento de datos a gran escala, entonces este es un gran proyecto y ninguna empresa lo hará sola. En cierto modo, en realidad es un proyecto humano total que involucra a muchas empresas. **

"La IA es una herramienta de productividad para todos"

Moderador: Altman, alguien te tuiteó un tuit: "Lo siguiente que dirás es que deberíamos regular la IA". Tú respondes: "Sí, deberíamos regular la inteligencia artificial". Inteligente". ¿Y qué? ¿Piensa en las muchas personas que dicen: "Ustedes se están moviendo demasiado rápido", ¿qué piensa sobre la regulación, la gobernanza global o la adquisición de talento?

Altman: Entiendo la ansiedad y el miedo de todos. La gente tiene miedo de la velocidad del cambio tecnológico. También estamos de acuerdo en proceder con cautela y reforzar la regulación de la inteligencia artificial, pero no tiene sentido detener la investigación.

**Lo que realmente necesitamos hacer es descubrir qué enfoques regulatorios, reglas y estándares de seguridad realmente funcionan en el contexto de la desordenada realidad. La velocidad a la que cambia el mundo debe mantenerse relativamente constante, en lugar de construir AGI en secreto y luego, en algún momento, hacerlo público de inmediato. **Las instituciones no se vuelven grandes de la noche a la mañana, deben ser parte gradual del desarrollo tecnológico, proporcionar retroalimentación crítica a la investigación científica, decirnos cuándo se cometen errores estúpidos, identificar áreas de gran beneficio y daño potencial, cometer errores y aprender de ellos. cuando el riesgo es menor de lo esperado.

Brockman: Realmente estamos tratando de resolver esto. **Cuando fundamos OpenAI, lo que realmente consideramos fue cómo desarrollar un AGI seguro, que determina si beneficiará a toda la humanidad. Aquí hay dos temas, uno es la seguridad técnica y el otro es la seguridad social, es necesario garantizar que la tecnología de inteligencia artificial esté guiada para ser utilizada de manera segura. **

Soy relativamente técnico, así que me concentraré en resolver el primer problema. Hemos comenzado las implementaciones en los últimos cuatro o cinco años, y cuando GPT-3 tiene problemas, lo hemos parcheado de la forma en que se ha distribuido GPT-3, utilizando filtros e intervenciones que no son a nivel de modelo. Ahora que nuestra tecnología está madurando para poder intervenir realmente a nivel de modelo, GPT-4 puede comprender los resultados en el modelo de forma automatizada, por lo que hace un muy buen trabajo de filtrado de seguridad.

Moderador: Una de las críticas a la inteligencia artificial es el uso de la energía. Altman, crees que no solo habrá inteligencia infinita en el futuro sino también energía infinita, has invertido mucho en Helion Energy (una empresa de energía limpia), ¿puedes hablar sobre por qué invertiste en ella y qué resultados esperas?

Altman: No creo que haya inteligencia o energía infinitas en el futuro de la IA. Creo que debería bajar los precios y aumentar los productos ricos. Es imposible para nosotros alcanzar este nivel de infinito. Estas críticas energéticas a los sistemas de IA me parecen vulgares. **Creo que la energía abundante y limpia tiene otros beneficios además de resolver la crisis climática, y que invertir en energía es algo más importante que invertir en cualquier otro insumo que se me ocurra. Financiar un cambio fundamental en el costo de adquisición de energía es una gran cosa. ** Helion está trabajando en esto y espero escuchar buenas noticias el próximo año.

**Moderador: **Brockman Entendemos que está invirtiendo en algunas empresas en los campos de atención de la salud y desarrollo de fármacos.

Brockman: Hay un fondo dentro de OpenAI que invierte en algunas empresas emergentes de tecnología. Empresas emergentes como Ambience Healthcare (una empresa de inteligencia artificial en el campo de la medicina) están tratando de aplicar la IA a actividades médicas reales. Incluso Microsoft está comenzando a implementar su estrategia de IA en la industria de la salud a través de Nuance (compañía de software de inteligencia artificial). Si piensa en la variedad de problemas que enfrentan los médicos, muchos de ellos son administrativos. Mis padres eran médicos y escuché todas las historias sobre cómo se vieron obligados a usar iPads para hablar con los pacientes. **Estamos entrando en un mundo en el que podemos ver las transcripciones instantáneas de la información del médico de Nuance y obtener notas del médico después del hecho, reduciendo la cantidad de esfuerzo de explicación del médico a la familia del paciente y permitiendo que el médico realmente se concentre en el cuidado del paciente. **

Ya hemos visto los beneficios de las personas que usan ChatGPT para ver a un médico en Twitter. Otra persona salvó la vida de su perro a través de ChatGPT. Se informó que fue al veterinario, pero el veterinario no lo atendió a tiempo. Los internautas subieron con ansiedad los registros médicos a ChatGPT. Sin embargo, ChatGPT está bastante seguro de que "no soy veterinario, debes hablar con un veterinario". Sin embargo, también le dieron algunos consejos y explicaciones, lo que le dio confianza para acudir a un segundo veterinario. Creo que es un ejemplo realmente interesante porque realmente señala el problema de cómo queremos que intervenga la IA. Los humanos somos muy dependientes de los médicos en el campo de la medicina, pero los humanos también cometemos errores, y el primer médico tomó una decisión equivocada que podría tener consecuencias fatales. Entonces, descubrir cómo obtener la supervisión correcta por parte de las personas adecuadas.

Moderador: Estás invirtiendo en empresas que usan tu plataforma a través de OpenAI, ¿esto marcará la diferencia? ¿Usarán otras empresas su API (interfaz de llamadas de aplicaciones)? ¿Tiene curiosidad por saber cuál es la mejor manera de utilizar la IA para mejorar todas las industrias?

Altman: Ahora vemos que las personas llaman a la API de OpenAI en todas partes y, a medida que el modelo se vuelve cada vez más inteligente, las capacidades de los productos y servicios se pueden mejorar continuamente, por lo que podemos responder esta pregunta con confianza y esta situación continuar.

Moderador:¿Qué cree que aportará el uso de la inteligencia artificial o la tecnología moderna de inteligencia artificial a la investigación científica dentro de 3 a 10 años?

**Brockman:**El genio matemático chino Terence Tao dijo recientemente que GPT-4 ha acelerado su velocidad. Terence Tao es un conocido matemático que dijo que usar GPT-4 para ayudarlo a escribir solicitudes de financiamiento en declaraciones de proyectos puede ser de gran ayuda y resolver algunas tareas tediosas. De hecho, la gente gasta mucho tiempo y energía en algunas tareas monótonas y repetitivas todos los días. Las personas más inteligentes del mundo pasan gran parte de su tiempo haciendo este trabajo no tan creativo, es un desperdicio. La IA puede ayudarlos a resolver estas tareas tediosas sin importancia, liberando a las personas para que hagan cosas de valor real y puedan lograr más.

**Altman: Sí, creo La IA es una herramienta de productividad para todos que mejorará a nuestros mejores científicos y hará avanzar la investigación científica. **En última instancia, estos sistemas podrían ayudarnos a almacenar más conocimiento que el cerebro humano y descubrir nuevas conexiones, nuevas ideas, etc.