Fundador da OpenAI: Somos uma organização que busca a verdade

Fonte: Revista China Entrepreneur

Organização｜Wu Ying

Fonte da imagem: Gerada pela ferramenta Unbounded AI

Em 24 de julho, o CEO da OpenAI, Sam Altman (Sam Altman, doravante referido como "Altman") lançou o WorldCoin, um projeto de criptomoeda desenvolvido por muitos anos, que mais uma vez atraiu a atenção generalizada. Altman está, como ele afirma, trabalhando duro para uma vida melhor para os humanos em um mundo de IA.

Três meses atrás, Sam Altman e o co-fundador da OpenAI Greg Brockman (Greg Brockman, doravante referido como "Brockman") aceitaram uma entrevista com o podcast americano. Durante a entrevista, as duas figuras centrais da OpenAI explicaram suas opiniões sobre IA. Além disso, eles também discutiram o impacto da IA em vários setores, questões de segurança e seu layout de investimento fora da IA.

Quando os dois explicaram a visão do OpenAI, eles concordaram que desejam desenvolver AGI (Inteligência Artificial Geral) que seja benéfica e segura para toda a humanidade. Em relação às questões de segurança de IA muito debatidas, eles também reconheceram os riscos e disseram que estão trabalhando duro para superá-los. Além disso, os dois também falaram sobre investimentos em outras áreas, por exemplo, Altman está particularmente interessado na indústria de energia limpa, enquanto Brockman está interessado nas indústrias médica e educacional.

Aqui estão os destaques da entrevista:

1. Estamos trabalhando duro para desenvolver uma inteligência artificial geral benéfica e segura para toda a humanidade.

2. Fundamentalmente, o que queremos é fornecer essa tecnologia a todos, remover as barreiras para que eles criem, concluam novas tarefas e levem os humanos a resolver problemas nos quais realmente estão interessados.

3. Não paramos mais apenas no estágio de conhecimento primitivo, mas avançamos para o segundo estágio – guiando a máquina para executar as tarefas que lhe atribuímos e operar de acordo com os valores sociais.

4. Construímos uma cultura de realmente prestar atenção aos detalhes e tentar acertá-los, o que atrai uma engenharia muito cuidadosa e pesquisas científicas daqueles que desejam trabalhar dessa maneira.

5. Acho que energia abundante e limpa pode trazer benefícios de outras formas além da simples resolução da crise climática, e que investir em energia é mais importante do que investir em qualquer outro insumo isolado que eu possa imaginar. Financiar uma mudança fundamental no custo de aquisição de energia é uma grande coisa.

6. A IA é uma ferramenta de produtividade para todos que tornará nossos melhores cientistas melhores e promoverá a pesquisa científica.

Quais setores a IA afetará nos próximos 3 a 10 anos

**Moderador:**Vamos começar com as perguntas mais básicas. Você pode apresentar brevemente qual é a missão do seu OpenAI? Qual é o propósito de todas as suas decisões? **Altman: Estamos trabalhando duro para desenvolver uma inteligência artificial geral benéfica e segura para todos os seres humanos. **Este é um projeto inédito, sei o quão difícil é realizá-lo, vamos cometer muitos erros ao longo do caminho, mas é esse o rumo que seguimos. Acredito firmemente que a IA será a tecnologia mais transformadora já desenvolvida pelo ser humano, de certa forma, nos ajudará a desenvolver todas as tecnologias futuras, e o futuro é brilhante.

Brockman: Cerca de 8 anos atrás, quando começamos a OpenAI, eu realmente acreditava que a inteligência artificial iria acontecer e sabia que levaria muito tempo para alcançá-la, mas pensando que temos a oportunidade de influenciar isso tecnologia Sinto-me muito entusiasmado com o meu desempenho. Nossa visão é que a AGI é benéfica para toda a humanidade, e estamos tentando atingir esse objetivo de várias maneiras.

No início tínhamos esses ideais, mas não sabíamos como combiná-los com ações práticas. Após anos de trabalho árduo, descobrimos como construir um sistema que realmente funcionasse e como integrar nossos valores​ neste sistema. Nos últimos meses, ficamos encantados com o fato de nossa tecnologia ter se tornado popular lentamente e as pessoas estarem começando a colher os benefícios de nossa tecnologia. **Esta tecnologia ainda está em seus estágios iniciais e há muito mais a ser feito, mas acreditamos fortemente que todos devem estar envolvidos e ter voz. ** Descobrir como realmente alcançar uma governança global eficaz é tão importante quanto o desenvolvimento de tecnologia.

Moderador: Cerca de 1 bilhão de pessoas no mundo pertencem à classe média com condições econômicas superiores. Eles também usam IA livremente para ajudá-los a trabalhar e estudar. Então, como a IA pode beneficiar os 7 bilhões de pessoas restantes?

**Brockman: Uma característica importante da IA que desenvolvemos é que não há restrições de acesso, e todos podem acessar e usar essa tecnologia, inserir suas preferências e feedback no sistema e usá-lo para melhorar sua vida, o que é a intenção original de nosso desenvolvimento desta tecnologia. **

Agora, há muitas perguntas sobre como essa tecnologia funcionará. Nossa empresa tem uma estrutura especial, é uma organização sem fins lucrativos, portanto, se o capital estiver altamente concentrado na OpenAI, não será detido pelos acionistas, mas de propriedade da empresa e, eventualmente, distribuído para o mundo. Quando os lucros são distribuídos para todo o mundo, o UBI (Renda Básica Universal) pode ser considerado e os recursos alocados dessa forma. **Fundamentalmente, o que queremos é fornecer essa tecnologia para todos, remover as barreiras para que eles criem, concluam novas tarefas e levem o ser humano a resolver problemas que realmente lhe interessam. **

**Altman: Todo crescimento econômico verdadeiramente sustentável vem do progresso tecnológico, e a gestão sociopolítica e a cultura podem nos ajudar a alcançar o progresso tecnológico. ** Portanto, estamos avançando em como ajudar os 7 bilhões de pessoas restantes. No futuro, nossa tecnologia irá mais longe. Acredito que a tecnologia é a chave para melhorar a qualidade de vida de todos.

**Moderador:**Que tipo de ajuda a IA pode trazer no campo da educação?

**Brockman:**Se eu não tivesse fundado uma empresa de IA, teria fundado uma empresa de educação em programação. Imagine se o futuro puder proporcionar às crianças um professor que realmente as entenda, que se dê ao trabalho de conhecê-las, que saiba motivá-las e que esse professor esteja disponível 24 horas por dia, 7 dias por semana, gratuitamente, não é? parece muito bom.

Você pode olhar para instituições como a Khan Academy [uma instituição educacional sem fins lucrativos], eles realmente começaram a pegar o GPT-4 e colocá-lo na sala de aula, e descobriram como canalizar essa tecnologia para que se torne um mentor útil. Se as crianças pedissem para "me ajudar com o dever de casa", ele diria "não, não posso fazer isso". E também tentando descobrir no que as crianças estão interessadas e como realmente motivá-las a fazer mais, e agora estamos entrando no estágio de como tirar o máximo proveito disso.

**Moderador:**Muitas pessoas podem dizer que agora existe a Khan Academy e ainda existem muitos cursos online, mas o que você apresenta são apenas ideias e não existem produtos reais. Você acha que pessoas sem educação ainda precisam de seus produtos?

Brockman: A forma como somos educados atualmente é por meio dessas pessoas inteligentes que nos ensinam conhecimento e métodos de solução de problemas. No futuro, se houver uma máquina que possa ser mais inteligente que os humanos, será possível? Mais conveniente . **Desenvolvemos muitos assistentes virtuais, como o Alexa (o assistente inteligente lançado pela Amazon) e o Siri (o assistente AI lançado pela Apple), mas para alguns problemas que exigem raciocínio cerebral, ainda não é suficiente , precisamos de Tecnologia mais avançada para aprimorar nossa capacidade de pensar e resolver problemas. **

Sem dúvida, funções como GPT-4 foram vistas por todos, **Não ficamos mais apenas no estágio de conhecimento original, mas avançamos para o segundo estágio - guiando a máquina para executar as tarefas que atribuímos e de acordo com o Social valores operam. **Todas essas tecnologias estão sendo pesquisadas e desenvolvidas por nós. A próxima fase de testes de tecnologia e produtos ocorrerá nos próximos anos, à medida que o uso da tecnologia continua a se expandir.

**Moderador:**Nos próximos 3 a 10 anos, quais setores a IA afetará?

Brockman: Acho que essa tecnologia pode ser aplicada ao setor jurídico e pode trazer muitos benefícios ao fornecer serviços jurídicos. Meu serviço favorito do GPT-3 é uma ferramenta chamada Augrented, que ajuda os inquilinos que recebem avisos de despejo a entender os problemas do contrato. Como há muitas pessoas nesse grupo demográfico que não necessariamente têm acesso a um advogado, essa tecnologia pode ajudá-las a fazer coisas que de outra forma não seriam capazes. Esse é um dos casos de uso muito eficazes que vimos.

Moderador: Há um ditado no mercado que diz que a IA amplifica a inteligência humana. Por exemplo, GPT-4 pode ser usado para escrever um livro. O que você acha disso?

Altman: Concordo plenamente com esta afirmação, e esta é a direção que estamos fazendo o possível para promover. Eu vi um tweet que me chamou a atenção: **Alguém disse que nunca pensou que coexistiria com uma inteligência poderosa como a GPT-4. Você se encontrará profundamente no reino da AGI, e acontece que é perfeitamente possível construir uma IA que seja realmente boa em amplificar a vontade humana e nos tornar mais fortes. **Isso tornará nosso trabalho mais eficiente e melhor. Além do mais, acontece que as pessoas realmente gostam disso. Para mim, a coisa mais gratificante sobre **OpenAI é que as pessoas adoram seus produtos e obtêm todos os tipos de benefícios inesperados dele. **

"Somos uma organização que busca a verdade"

Moderador: Quando sua equipe da OpenAI está pesquisando e desenvolvendo produtos de IA, como o ChatGPT, você encontrou alguma surpresa?

**Brockman: A primeira surpresa remonta a 2017. Na época, produzimos este artigo chamado "Unsupervisioned Emotional Neurons", mas não chamou muita atenção. Mas este é um verdadeiro avanço para nós, e realmente precisamos seguir esse paradigma. **Treinamos um modelo para prever o próximo caractere em uma revisão da Amazon, e ele foi capaz de aprender onde estão os substantivos e onde estão os verbos, mas ainda mais surpreendentemente, aprendeu análise e classificação de sentimentos de última geração, que pode dizer se o seu comentário é positivo ou negativo. Nunca dissemos à máquina o significado dessas linguagens, ela de alguma forma descobriu ao realizar essa tarefa. **O aprendizado de máquina não é perfeito, ainda temos um longo caminho a percorrer, ainda é cedo, mas podemos começar a resolver problemas. **

É muito significativo para mim permitir que mais pessoas sintam a alegria de programar. Pessoas que nunca programaram antes podem entrar em campo, e aqueles que já são bons programadores podem realizar atividades mais criativas. Atingir essa habilidade e nível pode acelerar nosso fluxo de trabalho de codificação.

**Moderador:**Você pode explicar como acelerar a codificação?

Brockman: Durante o processo de codificação, passamos muito tempo lembrando exatamente quais bibliotecas fazem o que você está procurando, como implementá-las e quais são os parâmetros. E você quer construir um sistema ou um aplicativo, esta é uma tarefa avançada, o Copilot anterior (ferramenta assistente de programação) é apenas clichê, eles são apenas mecânicos. Agora, o modelo está começando a melhorar e, se você não souber muito sobre uma linguagem de programação específica ou se não conhecer um conjunto específico de bibliotecas, o modelo fornecerá isso com prazer. E o interessante sobre o GPT-4 é que ele pode apontar onde a codificação está errada, e essas mensagens de erro às vezes são enigmáticas, e você tem que procurar por respostas, como olhar em vários sites, tentando juntar a partir do que outros as pessoas disseram, agora o GPT-4 pode ajudá-lo a resolver esses problemas.

**Moderador:**Altman, qual foi a surpresa que você sentiu?

Altman: Cito uma citação de Noam Shazeer (fundador da Character.AI): "Não explicamos por que essas arquiteturas parecem funcionar, atribuímos esses resultados à misericórdia de Deus." Isso é para mim A tema recorrente, **me considero um empirista, acredito que se algo funcionar, quanto mais você fizer, melhor será. **Os "neurônios afetivos não supervisionados" que Greg acabou de mencionar foram uma grande surpresa, e agora algumas das coisas que o GPT-4 faz começam a explicar por que a IA deveria funcionar. Eu acredito totalmente na IA e acho que ela vai longe. **Antes de começarmos o OpenAI, fiquei surpreso quando vi os resultados do AlexNet (Convolutional Neural Network). **

Moderador: Com apenas algumas centenas de pessoas, você ultrapassou o nível que só pode ser alcançado pela maior empresa de tecnologia do mundo. Isso requer muito trabalho duro e um pouco de sorte. Estou curioso para saber, o que está levando você a atingir esse objetivo? Existem líderes importantes na OpenAI?

**Altman: Fazemos muitas coisas, algumas de propósito, outras por sorte. Um dos grandes fatores é que construímos uma cultura de realmente prestar atenção aos detalhes e tentar acertá-los, atraindo uma engenharia muito cuidadosa e pesquisas científicas daqueles que desejam trabalhar dessa maneira. Outra razão é que eu acho que somos uma organização que busca a verdade, descobrindo o que funciona e fazendo mais. **

Quando começamos a OpenAI, éramos diferentes de outras pesquisas de IA que existiam na área, eles tinham sistemas de incentivos diferentes, e as coisas a considerar eram dispersas, e assumíamos um risco altamente focado, fazendo o que era considerado inimaginável na época. Colocamos a maior parte de nossos recursos neste projeto e, embora haja riscos envolvidos, o estudamos cuidadosamente e estamos confiantes de que podemos entregar resultados.

**Brockman:**Minha ideia é partir dos "primeiros princípios". Nos primeiros dias, Ilya (cientista-chefe da OpenAI) debatia comigo por cerca de uma hora todos os dias. Por exemplo, tivemos uma longa discussão sobre quem deveríamos contratar, devemos contratar um PhD tradicional em aprendizado de máquina ou devemos contratar um engenheiro de software que nunca tenha feito isso antes, ou alguém intermediário? Para cada decisão, devemos ver suas consequências, e assim continuaremos aprendendo e nos atualizando.

Não podemos saber tudo de antemão, mas podemos aprender fazendo. Assim como o OpenAI-Five que desenvolvemos e continuamos a expandir sua escala, na competição de jogos do Dota2, ele não fica para trás. (Observação: OpenAI-Five, uma inteligência artificial que pode jogar jogos Dota2, Dota2 é um jogo de arena de combate multiplayer online com um grande número de fãs fanáticos. Em 2018, eles desafiaram a equipe campeã mundial OG com todas as suas forças.)

Este é o nosso primeiro sistema que realmente escala, e o sistema fica melhor a cada semana à medida que colocamos mais poder de computação nele. Nosso objetivo é esgotar o espaço dos algoritmos existentes para que possamos fazer o desenvolvimento de novos algoritmos, que é o que realmente queremos fazer. Quando você tenta seguir nessa direção, outra direção o puxa para frente e diz que funciona. ** Responder ao que vemos à nossa frente, atualizando constantemente, girando, mudando, é muito importante do ponto de vista técnico. **

Altman: Quando expandimos o projeto OpenAI-Five, basicamente ninguém pensou que seria bem-sucedido. O fato de poder lançar qualquer quantidade de computação em um sistema de IA para atingir o nível de inteligência desejado, e isso abrange uma gama incrível de computação e inteligência, é como uma incrível descoberta científica.

Brockman: Também analisamos os avanços algorítmicos, combinando os melhores sistemas com os melhores algoritmos, e sistemas como o GPT-4 nasceram. **Quando pensamos sobre esse problema, percebemos que se todas as informações da GPU forem inseridas na cadeia de suprimentos do novo algoritmo ou mesmo carregadas no sistema de processamento de dados em larga escala, esse é um grande projeto e nenhuma empresa fará isso sozinha. De certa forma, é na verdade um projeto humano que envolve muitas empresas. **

"IA é uma ferramenta de produtividade para todos"

Moderador: Altman, alguém tuitou para você: "A próxima coisa que você vai dizer é que devemos regular a IA." Você responde: "Sim, devemos regular a inteligência artificial." Inteligente.” E daí? você pensa nas muitas pessoas que dizem: “Vocês estão indo rápido demais”, o que você pensa sobre regulamentação, governança global ou aquisição de talentos?

Altman: Entendo a ansiedade e o medo de todos. As pessoas têm medo da velocidade da mudança tecnológica. Também concordamos em proceder com cautela e fortalecer a regulamentação da inteligência artificial, mas não adianta interromper as pesquisas.

**O que realmente precisamos fazer é descobrir quais abordagens regulatórias, regras e padrões de segurança realmente funcionam no contexto da realidade confusa. A taxa na qual o mundo muda deve ser mantida relativamente constante, em vez de construir a AGI em segredo e, em algum momento, torná-la pública imediatamente. **Instituições não ficam ótimas da noite para o dia, elas devem gradualmente fazer parte do desenvolvimento tecnológico, fornecer feedback crítico à pesquisa científica, nos avisar quando erros estúpidos são cometidos, identificar áreas de grande benefício e dano potencial, cometer erros e aprender com eles quando o risco é menor do que o esperado.

Brockman: Estamos realmente tentando descobrir isso. **Quando fundamos a OpenAI, o que realmente consideramos foi como desenvolver uma AGI segura, que determina se beneficiará toda a humanidade. Há duas questões aqui, uma é a segurança técnica e a outra é a segurança social, é preciso garantir que a tecnologia de inteligência artificial seja orientada para ser usada com segurança. **

Sou relativamente técnico, então vou me concentrar em resolver o primeiro problema. Iniciamos implantações nos últimos quatro ou cinco anos e, quando o GPT-3 apresenta problemas, o corrigimos da maneira como o GPT-3 foi distribuído, usando filtros e intervenções não relacionadas ao modelo. Agora que nossa tecnologia está amadurecendo para realmente poder intervir no nível do modelo, o GPT-4 pode entender os resultados no modelo de maneira automatizada, fazendo um ótimo trabalho de filtragem de segurança.

Moderador: Uma das críticas à inteligência artificial é o uso de energia. Altman, você acha que não haverá apenas inteligência infinita no futuro, mas também energia infinita, você investiu pesadamente na Helion Energy (uma empresa de energia limpa), pode falar sobre por que investiu nela e quais resultados espera?

Altman: Não acho que haverá inteligência ou energia infinitas no futuro da IA. Acho que deveria haver queda de preços e aumento de produtos ricos. É impossível atingirmos esse nível de infinito. Acho essas críticas energéticas aos sistemas de IA vulgares. **Acho que energia abundante e limpa traz outros benefícios além de apenas resolver a crise climática, e que investir em energia é uma coisa mais importante do que investir em qualquer outro insumo único que eu possa imaginar. Financiar uma mudança fundamental no custo de aquisição de energia é uma grande coisa. **Helion está trabalhando nisso e espero ouvir boas notícias no próximo ano.

**Moderador: **Brockman Entendemos que você está investindo em algumas empresas nas áreas de saúde e desenvolvimento de medicamentos. O que você acha?

Brockman: Existe um fundo dentro da OpenAI que investe em algumas startups de tecnologia. Startups como a Ambience Healthcare (uma empresa de inteligência artificial na área médica) estão realmente tentando aplicar IA a atividades médicas reais. Até a Microsoft está começando a implementar sua estratégia de IA no setor de saúde por meio da Nuance (empresa de software de inteligência artificial). Se você pensar na variedade de problemas que os médicos enfrentam, muitos deles são administrativos. Meus pais eram médicos e ouvi todas as histórias sobre como eles foram forçados a usar iPads para falar com os pacientes. **Estamos entrando em um mundo onde podemos ver a transcrição instantânea da Nuance das informações do médico e obter as anotações do médico após o fato, para que o médico tenha menos esforço para explicar à família do paciente e o médico possa realmente se concentrar no atendimento do paciente . **

Já vimos os benefícios das pessoas que usam o ChatGPT para consultar um médico no Twitter. Outra pessoa salvou a vida de seu cachorro por meio do ChatGPT. Foi relatado que ele foi ao veterinário, mas o veterinário não o tratou a tempo. Os internautas carregaram ansiosamente os registros médicos no ChatGPT. No entanto, o ChatGPT tem certeza sobre "Eu não sou veterinário, você precisa falar com um veterinário". No entanto, ele também recebeu alguns conselhos e explicações, o que lhe deu confiança para ir a um segundo veterinário. Acho que é um exemplo muito interessante porque ele realmente aponta para o problema de como queremos que a IA intervenha. O ser humano é muito dependente dos médicos na área da medicina, mas o ser humano também comete erros, e o primeiro médico tomou uma decisão errada que pode ter consequências fatais. Portanto, descobrir como obter a supervisão certa das pessoas certas.

Moderador: Você está investindo em empresas que usam sua plataforma por meio da OpenAI, isso fará diferença? Outras empresas usarão sua API (interface de chamada de aplicativo)? Curioso para saber qual é a melhor maneira de usar a IA para melhorar todas as indústrias?

Altman: Agora vemos que as pessoas chamam a API do OpenAI em todos os lugares e, à medida que o modelo se torna cada vez mais inteligente, os recursos dos produtos e serviços podem ser aprimorados continuamente, para que possamos responder a essa pergunta com confiança. continuar.

**Moderador:**O que você acha que o uso de inteligência artificial ou tecnologia moderna de inteligência artificial trará para a pesquisa científica dentro de 3 a 10 anos?

**Brockman:**O gênio matemático chinês Terence Tao disse recentemente que o GPT-4 acelerou sua velocidade. Terence Tao é um matemático conhecido e disse que usar o GPT-4 para ajudá-lo a escrever pedidos de financiamento em declarações de projetos pode trazer grande ajuda e resolver algumas tarefas tediosas. Na verdade, as pessoas gastam muito tempo e energia em algumas tarefas monótonas e repetitivas todos os dias. As pessoas mais inteligentes do mundo gastam tanto tempo fazendo esse trabalho não tão criativo que é um desperdício. A IA pode ajudá-los a resolver essas tarefas tediosas sem importância, liberando as pessoas para fazer coisas de valor real, e elas podem realizar mais.

**Altman: Sim, eu acho A IA é uma ferramenta de produtividade para todos que tornará nossos melhores cientistas melhores e promoverá a pesquisa científica. **Em última análise, esses sistemas podem nos ajudar a armazenar mais conhecimento do que o cérebro humano e descobrir novas conexões, novas ideias, etc.