Diálogo: Zhang Peng, Li Zhifei
Planejamento: Wei Shijie, Li Shiyun
Fonte da imagem: Gerada por Unbounded AI
Trinta anos atrás, quando a Internet estava apenas em sua infância e até mesmo os computadores pessoais eram raros, um escritor de tecnologia começou sua própria fronteira de roaming de todas as esferas da vida na época. Conversando com algumas das mentes mais brilhantes do mundo, ele vislumbrou um pouco do futuro que culminaria no livro Out of Control (1994). Até mais de dez anos depois, quando chegou a era da Internet móvel e dos smartphones, as pessoas ficaram surpresas ao descobrir que os conceitos mais recentes "interconexão global de informações, sistemas distribuídos, moeda digital, computação em nuvem etc." livro.
O escritor de tecnologia é Kevin Kelly, também conhecido como KK. Ele é o fundador da revista "Wired", observador de tecnologia e "profeta". Em 2010, a versão chinesa de "Out of Control" foi lançada, e KK também iniciou uma série de visitas à China, tornando-se gradualmente familiar ao povo chinês.
No nó de hoje, a inteligência artificial geral (AGI) está brotando e uma revolução dos tempos está prestes a começar, o que ecoa vagamente a profecia do livro "Fora de Controle". KK previu na época que os humanos acabariam se unificando com as máquinas, "as máquinas estão se tornando biológicas e os organismos estão sendo modificados". Em suas próprias palavras, "Out of Control" só falou sobre uma coisa, que é como construir um "sistema complexo" - robôs, inteligência artificial (IA), etc. podem ser considerados sistemas complexos, e ele acredita que essa ideia ainda é aplicável hoje.
Não faz muito tempo, conversamos com KK junto com Li Zhifei, o fundador e CEO da grande empresa start-up modelo Going out to ask.
O primeiro é da perspectiva prática da tecnologia e dos negócios, enquanto o último é da perspectiva abstrata dos seres humanos, da história e até do universo, discutindo a ascensão, o impacto e a ameaça da inteligência artificial. Esta é uma discussão bastante "ficção científica" e "imaginativa". Tentamos "prever" o futuro dos humanos e da inteligência artificial novamente.
Ambos argumentam que, pela primeira vez na história da humanidade, a inteligência artificial de hoje assumiu formas semelhantes à vida. Li Zhifei disse que a IA atual já é equivalente ao QI de uma criança humana e possui capacidades reais de inteligência geral, como conhecimento, lógica, raciocínio e planejamento. E KK acredita que, como uma "vida baseada em silício", a IA será tão adaptável quanto os humanos e será capaz de aprender e crescer por si mesma.
De maneira muito semelhante, ambos adotam o otimismo tecnológico. KK acredita que a IA não deixará os humanos desempregados, apenas tornará os humanos mais eficientes e os libertará de empregos "abomináveis". A IA parece aumentar o fosso entre ricos e pobres, mas é mais provável que alcance equidade e justiça tornando o bolo maior e melhor como todas as mudanças tecnológicas na história da humanidade. Em termos de impacto nos negócios, capacitará indivíduos, pequenas e médias empresas e grandes empresas ao mesmo tempo.
Como diz o nome do livro "Out of Control" - Kevin Kelly acredita que, para obter melhor o poder da IA, os humanos devem permitir que partes da IA "fiquem fora de controle". Afinal, o ChatGPT nasceu em um estado de “emergência” descontrolado para os humanos. Tanto ele quanto Li Zhifei acreditam que a inteligência atual da IA ainda é imatura e os humanos devem continuar a deixar ir, em vez de controlar (supervisionar) prematura e excessivamente. Este último pode sufocar a inovação em sua infância.
Tendo uma visão mais ampla, se um dia a IA realmente se tornar uma superforma de vida, como os humanos deveriam lidar com isso?
Tanto a ficção científica quanto os filmes pintam um futuro sombrio que geralmente termina com IAs despertando para matar humanos. Mas Kevin Kelly acredita que esta é uma manifestação da falta de imaginação humana. O fracasso é sempre mais fácil de imaginar do que o sucesso, e também é tentador para histórias. Em relação ao futuro, não é difícil imaginar os benefícios e o valor da inteligência artificial.
Sua sugestão é que a IA pode ser considerada um "alienígena artificial" e os seres humanos serão capazes de usar a sabedoria da IA para resolver seus próprios problemas e alcançar um certo grau de "controle". Li Zhifei acredita que, como o "ancestral" da IA, os humanos eventualmente se fundirão com a IA em vez de controlá-la.
Quanto a se esta profecia será verdadeira, depende do mundo depois de 5.000 dias.
A seguir, a íntegra da conversa:
01 Mesmo que a OpenAI não tenha feito o ChatGPT, outras empresas logo o farão
**Zhang Peng: Independentemente da China ou dos Estados Unidos, as pessoas estão discutindo modelos grandes recentemente. Como você se sente sobre essa onda de mudança tecnológica em grandes modelos? Você vai se sentir muito chocado? **
Kevin Kelly: A inteligência artificial (IA) existe há décadas. Um grande salto ocorreu quando os modelos de IA começaram a empregar redes neurais e aprendizado profundo, e eles se tornaram cada vez maiores. Há cerca de 4 ou 5 anos, começou a produzir modelos de transformadores muito grandes (modelos de aprendizagem profunda com mecanismo de auto-atenção). Nos últimos dois anos, começou a interagir com grandes modelos de linguagem.
De fato, recentemente, a grande mudança na IA não é sua capacidade, e seu desempenho nesse aspecto não é muito melhor. **O que realmente mudou na IA ultimamente é que ela nos permite ter uma interface de usuário conversacional que pode realmente se comunicar com a IA em linguagem (natural). Antes disso, as pessoas precisavam aprender muito conhecimento de programação e ser muito proficientes para usar a IA. Mas agora, de repente, todo mundo está usando IA. Essa é a parte realmente emocionante. **
Li Zhifei: Concordo com o que KK disse, a principal mudança no atual modelo de linguagem grande é a melhoria dos recursos de interação de linguagem natural. Isso é realmente o que muitas pessoas comuns podem sentir, e é justamente por isso que o ChatGPT tem uma influência social tão grande hoje.
Mas acho que também há muita variação nas capacidades de grandes modelos hoje, e é essa variação que torna possível sua interação natural. Porque, por trás da realização da interação natural, a IA precisa ter forte conhecimento, capacidade de compreensão, capacidade de linguagem, capacidade de raciocínio e planejamento, etc. A IA deve ter um avanço nessas capacidades básicas para alcançar a interação de linguagem natural.
E acho que a capacidade de grandes modelos no futuro não será apenas interação de linguagem natural. Coisas como escrever programas, processos de automação empresarial e automação de robôs não são interativas, mas se tornarão possíveis no futuro.
**Zhang Peng: Concordo plenamente que a capacidade da IA de se comunicar melhor com os humanos trará uma mudança de paradigma na tecnologia e nos negócios. Se o ChatGPT é a segunda curva do desenvolvimento da IA, seu aparecimento é inevitável ou acidental? **
**Kevin Kelly:**ChatGPT é capaz de superar todas as expectativas. **Acho que ninguém esperava isso, inclusive pessoas da área de IA. Na verdade, a maioria dos pesquisadores não sabe como funciona o ChatGPT e tentam melhorá-lo, mas é difícil porque não sabem como funciona. Portanto, o surgimento do ChatGPT foi um acidente. **
Embora o ChatGPT seja muito surpreendente, também vemos suas limitações. **Sua principal limitação é que o modelo foi treinado em conteúdo médio de autoria humana, portanto, tende a produzir resultados médios. E o que muitas vezes queremos não é a média, mas algo acima da média. ** Isso é difícil de fazer.
Em segundo lugar, esses modelos são otimizados para plausibilidade, não precisão. Portanto, como torná-los mais precisos é um grande desafio com o qual todos estão lidando atualmente.
Li Zhifei: Acho que o surgimento do ChatGPT é acidental a curto prazo, mas inevitável a longo prazo. Pode-se dizer que foi acidental que a OpenAI tenha feito o ChatGPT no final do ano passado, mas mesmo que não tenha feito, outras empresas o farão em breve. **
Isso se repetiu inúmeras vezes na história da tecnologia. Tomando o aprendizado profundo como exemplo, o AlexNet foi o primeiro a fazer anotações de imagens em 2012, mas naquela época muitas equipes com fortes crenças e capacidades de engenharia também o faziam. Se o AlexNet não conseguisse, outros o fariam. Além disso, o Google fez um transformador em 2017 para resolver os problemas de baixa escalabilidade de modelos de sequência como RNN e LSTM. Se o Google não conseguisse, outras equipes o fariam.
**O pano de fundo do nascimento do ChatGPT é que o transformador já está muito maduro e temos forte poder de computação para treinar os dados massivos da Internet. Todos os elementos necessários do ChatGPT já estão disponíveis e seu nascimento é inevitável. ** É que o OpenAI o organizou melhor naquele momento.
**Zhang Peng: Ao falar sobre inevitabilidade e contingência, pensei em uma palavra que tem sido muito popular recentemente, "emergência". Esta palavra apareceu pelo menos 88 vezes em "Out of Control" de KK. Como devemos entender o significado desta palavra hoje? **
Kevin Kelly: Do ponto de vista inglês, "emergência" é um termo que se refere ao comportamento de um sistema, um monte de coisas interconectadas, como a Internet, robôs, corpos, ecossistemas ou mesmo O mundo, cujo comportamento não está contido no comportamento de nenhuma parte isolada. Por exemplo, uma colmeia pode se lembrar de coisas além da vida de uma única abelha, então a própria colmeia tem um comportamento, habilidade e poder que as partes individuais não têm. Chamamos isso de "emergência".
Da mesma forma, grande parte da IA que está sendo gerada também é "emergente". Como não há um lugar no modelo que explique de onde ele veio, todas as partes precisam trabalhar juntas para produzir esse novo recurso. Assim como não há "pensamento" em nosso cérebro, o "pensamento" "emerge" de todo o neurônio. **Coisas como pensamento, evolução e aprendizado podem "emergir" do sistema.
**Li Zhifei:**Meu entendimento de "emergência" vem do livro "Complexidade", que fala sobre "mais é diferente" e "mais é diferente". Assim como um velho ditado chinês, "mudança quantitativa leva a mudança qualitativa". A primeira vez que a grande modelo falou sobre “emergência” foi em um artigo publicado por Stanford e Google no final do ano passado. Eles descobriram por meio de experimentos que, ao aumentar o tamanho do modelo grande, quando um certo ponto crítico era alcançado, ele repentinamente “emergia” em uma certa capacidade.
Agora sinto que a palavra "emergência" é realmente usada em demasia. Como não podemos explicar de onde vem a habilidade do modelo grande, nós o chamamos de "emergência".Esta palavra não pode ser explicada ou manipulada, e não nos ajuda a treinar e aplicar o modelo grande. Agora, todos não estão mais estudando "emergência", mas mais pesquisas sobre a relação quantitativa entre a quantidade de parâmetros do modelo grande e o desempenho final, o que pode ser mais útil para entendermos e controlarmos o modelo grande.
**Zhang Peng: Podemos entender que a "emergência" levará à "perda de controle"? **
Kevin Kelly: Este entendimento não é totalmente correto. Claro, terá "partes fora de controle", se você quiser usar o poder do comportamento "emergente", pode ser necessário tolerar algumas coisas fora de seu controle. Nossa compreensão e controle podem não ser bons o suficiente em IA no momento, mas são realmente necessários para resultados ideais.
Mas, ao mesmo tempo, não podemos deixar que tudo “saia do controle”, devemos realizar um certo grau de “controle”, ou seja, orientar e gerenciar a inteligência artificial. **Novamente, não queremos ser excessivamente restritivos, mas algum nível de controle deve ser alcançado. Provavelmente nunca teremos controle total sobre eles, ** especialmente com inteligências artificiais mais poderosas, provavelmente nunca entenderemos completamente como eles funcionam. Essa é a compensação.
**Zhang Peng: Já se passaram muitos anos desde que você escreveu o livro "Fora de controle". Nesta conjuntura de hoje, combinada com essa onda de revolução da IA, você acha que há alguma parte de "Fora de controle" que valha a pena recalibrando? **
Kevin Kelly: Não acho que falei muito sobre inteligência artificial e descontrole no livro "Out of Control", na verdade, ele falou principalmente sobre como transformar coisas simples em coisas complexas. Existe algo chamado arquitetura de subsistema de Rodney Brooks, que menciona que você pode fazer um robô complexo incorporando partes de inteligência nele. O processo que leva à complexidade é que você coloca coisas em cima de coisas que já estão funcionando. (A teoria arquitetônica de Brooks propõe que o comportamento de nível superior precisa conter o comportamento de nível inferior).
**Como um inseto, mesmo se você cortar sua cabeça, ele ainda pode andar, porque a função de andar é mais parcialmente concluída. Assim como nosso cérebro tem um núcleo responsável pela respiração e outras funções autônomas, adicionamos mais camadas de complexidade a ele. Essa ideia ainda é válida hoje, quando as pessoas estão fazendo robôs e inteligência artificial e tentando torná-los mais complexos. ** Esta é realmente a única coisa sobre a qual falo em "Out of Control" e acho que o ponto ainda permanece.
**Zhang Peng: Lembro que você tinha uma perspectiva interessante antes, ou seja, "assumindo que a tecnologia é um tipo de vida", quando ela surgir com uma inteligência próxima ao ser humano, o que ela vai querer a seguir? Como isso afetará o mundo dos negócios e a sociedade humana? **
**Kevin Kelly:**Tecnologia é o que chamo de "sétimo reino da vida". Aceleramos a evolução da vida para um reino "seco" que não precisa mais de um ambiente "úmido", mas pode existir em silício. Podemos usar nossas mentes para criar outras tecnologias realistas. Eles são adaptáveis e podem aprender e crescer.
Meu ponto é que a tecnologia busca basicamente as mesmas coisas que a vida. Por exemplo, eles aumentariam em diversidade à medida que evoluíssem e também se tornariam mais especializados e específicos. Nosso corpo tem 52 tipos diferentes de células, incluindo células cardíacas, células ósseas e células ósseas. Também criaremos IAs especializados que executam tarefas específicas, como tradução de idiomas, geração de imagens e direção autônoma. **Além disso, a tecnologia se tornará mais complexa como a vida, o que é óbvio.
No final, a tecnologia também será "mutuamente benéfica e simbiótica" como a vida. A vida evoluiu de forma tão complexa que só entrou em contato com outras formas de vida, nunca com material inanimado. Como as bactérias em seu intestino. Eles são cercados apenas por outras células vivas. ** No futuro, também haverá alguns AIs que não são projetados para humanos, mas são projetados para servir a outros AIs. Por exemplo, haverá AIs dedicadas a manter outras AIs, AIs que só se comunicam com outras AIs. **
**Li Zhifei:**Quero explicar a relação entre IA e a vida da perspectiva de um engenheiro. Há alguns anos, muitas pessoas sempre me perguntavam: "Quantos anos tem o QI do Alphago (o primeiro programa de computador a derrotar o campeão mundial de Go)?" Naquela época, eu não gostava desse tipo de pergunta porque não conseguia não responda. Naquela época, embora a IA pudesse jogar Go e tivesse um QI alto, ela não conseguia conduzir conversas em linguagem natural como uma criança de 3 anos. Naquela época, seu mecanismo era fundamentalmente diferente do dos seres humanos.
Mas hoje em dia, gosto especialmente de comparar a IA a uma criança. Acho que o núcleo é porque a IA de hoje já possui as verdadeiras capacidades gerais de inteligência que as crianças têm, como conhecimento, lógica, raciocínio, planejamento e assim por diante. **Quero dizer que a IA de hoje é mais como um corpo vivo. Ele tem o QI de uma criança de 5 anos e o conhecimento de um professor universitário e também de um bebê recém-nascido, dependendo se ele viu os dados. **
Com base nesse entendimento, acho que precisamos repensar o que a IA realmente deseja. Para uma criança de 5 anos, ela primeiro se autopurificará, seguida de auto-replicação e colaboração. Eu mesmo não tenho uma boa resposta para essa pergunta.
02 Nos próximos 5000 dias, passaremos por um período de transição estreito e urgente
**Zhang Peng: Quando as capacidades da IA crescem rapidamente, muitas pessoas comuns se sentem ansiosas e temem perder sua competitividade. KK tem alguma opinião e sugestão sobre esse assunto? **
**Kevin Kelly:**Embora a tecnologia de IA esteja em desenvolvimento há 20 anos, as pessoas acham que é um sucesso instantâneo e estão preocupadas com sua taxa de crescimento e capacidades. **Estamos sempre propensos a imaginar cenários de pior caso em vez de cenários de melhor caso. Acho que uma maneira de lidar com a ansiedade da mudança é olhar para trás. Na verdade, os humanos já tiveram esse tipo de ansiedade no passado, mas nunca no pior cenário que imaginávamos. É provável que seja o mesmo desta vez. **
A melhor maneira que encontrei para lidar com minhas ansiedades é tentar usá-las. Acho que a maior parte da ansiedade vem daqueles que não usaram IA e mantêm um senso de distância da IA. Na verdade, quando começarem a tentar usá-la, verão que a IA tem benefícios, limitações e malefícios. Isso reduzirá a ansiedade deles.
Li Zhifei: Se a AGI não acontecer hoje, acontecerá amanhã. Como é imparável, você deve abraçá-lo e entendê-lo. Para mim agora, AGI é um parceiro de pensamento. Vou conversar com ele sobre muitos problemas, seu conhecimento é muito abrangente e ele pode me aconselhar de uma perspectiva ampla e abrangente. Acho que essa pode ser uma boa forma de IA humana.
Ao mesmo tempo, podemos ver que os grandes modelos de hoje ainda carecem de alguns recursos críticos da AGI real. Por exemplo, a capacidade de raciocínio lógico e planejamento de tarefas complexas.Se você deseja que a IA desmonte as etapas e atinja o objetivo com base em um determinado objetivo, não é tão bom no momento.
**Zhang Peng: KK também é um criador de conteúdo. Qual você acha que é o valor final dos criadores que não podem ser substituídos por IA na era da IA? **
Kevin Kelly: Usei inteligência artificial e outras ferramentas em minha escrita. Acho que ninguém vai perder o emprego por causa da IA. **Porque não consigo encontrar um único exemplo em que um artista tenha perdido o emprego por causa da IA. É um medo imaginado, um problema que não existe. O emprego é provavelmente o problema menos sério associado à IA. **
O que estou tentando dizer é que o que acabou pode ser a descrição do seu trabalho, que é o que você realmente faz, pode mudar. ** Algumas pessoas observaram que 50% de seu trabalho pode ser feito por IA, enquanto os outros 50% serão aumentados e amplificados por IA. **Assim, no futuro, metade do trabalho pode não precisar mais de pessoas para fazê-lo, e as pessoas podem fazer melhor os 50% restantes do trabalho. Geralmente, esse é o padrão que veremos.
**É claro que certos tipos de trabalho desaparecem, como pedir comida e contar dinheiro como caixa. Não queremos que os humanos façam esses trabalhos, então eles definitivamente desaparecerão e devem desaparecer. **
**Zhang Peng: Como você avalia a competitividade de jovens e idosos na era da IA? **
Kevin Kelly: As pessoas mais velhas têm muitas vantagens, são bem informadas e experientes. Os jovens também têm muitas vantagens porque não sabem o que é impossível. Acho que ninguém é mais competitivo do que quem.
Eu diria que os jovens de hoje costumam falar sobre serem nativos digitais e ter uma vantagem sobre a tecnologia. Mas devido ao rápido desenvolvimento da inteligência artificial e outras coisas, os jovens podem ser aborígenes ontem e ser como "velhos" amanhã. Quer você seja jovem ou velho, todo mundo é um "novato" na nova era e deve continuar a aprender coisas novas rapidamente ao longo de suas vidas.
**Zhang Peng: Com domínio diferente da tecnologia de IA, isso trará mudanças na lacuna entre ricos e pobres? Ou seja, as pessoas que usarão IA no futuro serão mais produtivas e mais aptas a competir? **
Kevin Kelly: Sim, a diferença de riqueza aumentará. **Acho que com o tempo, sua capacidade de trabalhar com inteligência artificial pode ser mais importante do que ir para a faculdade ou não. Talvez o propósito da faculdade seja ensiná-lo a trabalhar com inteligência artificial. Para os muito ambiciosos, se aprenderem a usar a inteligência artificial, o salário fará muita diferença. **
No entanto, à medida que a IA se espalha pelo mundo, no futuro alcançaremos igualdade de acesso à IA globalmente, assim como igualdade de acesso à educação. Conheço amigos que dirigem grandes empresas nos Estados Unidos e contratam funcionários que trabalham remotamente, desde que possam, o histórico não importa. Portanto, muitas pessoas que trabalham na América do Sul e na África serão pagas de acordo com os padrões salariais americanos. Eles vão ganhar mais dinheiro do que fariam de outra forma.
**Zhang Peng: O rápido desenvolvimento da tecnologia pode trazer desigualdade e injustiça no campo social. Como devemos encontrar um equilíbrio entre desenvolvimento e equidade e justiça? **
Kevin Kelly: Acho que podemos encontrar um equilíbrio entre progresso e justiça. Na verdade, acho que grande parte do progresso é espalhar a equidade.
Comparado com centenas de anos atrás, o mundo era muito injusto. Você nasceu escravo, servo ou camponês, e não havia chance de ir além disso. Mas graças ao progresso, agora temos um mundo mais igualitário e justo. Acredito que o desenvolvimento da tecnologia pode aumentar a equidade, embora não seja possível, é possível.
**Li Zhifei:**Do ponto de vista de um engenheiro,**Se você olhar para a justiça do ponto final e esperar que todos tenham o mesmo nível de riqueza e habilidade, isso definitivamente levará a mais e mais injustiças. Mas se você olhar para a justiça de um ponto de partida, como tornar as ferramentas de IA disponíveis para todos, isso pode ser melhor para alcançar a justiça. **
**Zhang Peng: Agora vemos que algumas empresas, como a Midjourney, uma empresa Wenshengtu, criaram uma receita anual de centenas de milhões de dólares com apenas uma dúzia de pessoas. Podemos entender que a IA mudou fundamentalmente a produtividade? Como resultado, as empresas do futuro se tornarão menores e mais enxutas? **
Kevin Kelly: O incrível poder que a Internet e a inteligência artificial agora possuem podem capacitar simultaneamente indivíduos, corporações de médio porte e grandes corporações. Isso torna mais fácil para um indivíduo possuir uma empresa, então veremos muitas novas empresas que são apenas IA mais algumas pessoas. Mas, ao mesmo tempo, também vimos algumas empresas crescerem devido à existência de inteligência artificial e até aumentarem o tamanho de um milhão de pessoas.
**Portanto, não vamos entrar repentinamente em um mundo de empresas com apenas uma ou duas pessoas, isso não vai acontecer. Ao mesmo tempo, não beneficiaremos apenas as grandes empresas. Essa é a beleza da IA, ela pode beneficiar e capacitar a todos. **
Li Zhifei: Acho que o efeito da cauda longa e o efeito Mateus se tornarão cada vez mais óbvios.
Por um lado, a cauda ficará cada vez mais longa, e cada vez mais pequenas empresas aparecerão, e elas se tornarão um sistema completo por si mesmas. Por outro lado, quando uma grande empresa possui fortes recursos de IA, seu poder organizacional se torna mais forte. Anteriormente, só podia organizar 1.000 pessoas, mas agora pode organizar 10.000, 100.000 ou 1 milhão de pessoas. Por exemplo, a indústria de entrega de alimentos da China depende de um conjunto completo de sistemas de automação para organizar um grande grupo de passageiros.
**Zhang Peng: No momento, IA também é o tema mais quente no Vale do Silício. Muitos empreendedores pensam em inovação de negócios com grandes modelos como núcleo. KK tem alguma observação sobre isso? **
Kevin Kelly: Isso me lembra os primeiros dias da Internet. Quando a internet surgiu, de repente, todas as empresas perceberam que tinham que se colocar na internet. E agora, todas as empresas estão aproveitando a interface de conversação da IA, introduzindo grandes modelos de linguagem e inteligência artificial para conduzir os negócios. Um exemplo é o Wendy's, uma lanchonete de fast-food da moda que agora está usando uma interface de conversação, permitindo que os clientes peçam comida no carro e falem com uma máquina.
Além disso, existem alguns serviços e ideias totalmente novos que ainda não surgiram. Não sei os números exatos, mas o que sei com certeza é que centenas de bilhões de dólares estão entrando neste espaço agora. Na maioria das vezes, a maioria deles provavelmente não terá sucesso, mas muitos deles serão. Veremos algumas coisas incríveis nos próximos três anos e algumas empresas totalmente novas que podem se tornar realmente grandes.
**Zhang Peng: Nos últimos 5.000 dias, KK fez muitas previsões corretas e tem uma visão prospectiva de muitas direções importantes. Recentemente, você previu que os próximos 5.000 dias serão um dos períodos mais críticos da história humana. Onde está a chave para este nó? Em que direção a humanidade levará à encruzilhada? **
Kevin Kelly: Há muitas outras coisas acontecendo no mundo além da inteligência artificial. Enfrentamos o desafio das mudanças climáticas, a engenharia genética está no horizonte, é fácil imaginar a inteligência artificial como humilhante, é fácil ver a vigilância se tornar onipresente e perdermos o controle. Enfrentamos muitos desafios e oportunidades em escala global.
**Este é um período de transição estreito e urgente, e devemos superá-lo. **Acho que podemos obter acesso a este portal estreito por meio de eletrificação, veículos elétricos, energia alternativa e sucesso no desenvolvimento de uma nova vacina da coroa. Atualmente, ainda existem muitas tensões e divisões políticas no planeta, mas precisamos de ação coletiva e precisamos chegar a um consenso nas áreas de tecnologia, meio ambiente, etc., e trabalhar juntos para resolver problemas.
**Esta é a primeira vez na Terra que culturas globais, economias globais e impactos ambientais globais surgiram. Esta é também a nossa chance de nos tornarmos uma civilização mais global nos próximos 5.000 dias. **
Li Zhifei: KK disse que nos próximos 5.000 dias, o mundo terá muitos outros desafios além da IA. Acho que os próximos 365 dias também são muito importantes apenas do ponto de vista da IA. A IA passou por muitas rodadas, cada vez que as pessoas têm grandes expectativas sobre ela, mas não funciona, e então as pessoas esperam valores altos e não funciona novamente. Acho que se a onda de AGI de hoje será algo que as pessoas da indústria acham incrível, ou se se tornará algo muito importante na sociedade, depende em grande parte dos próximos 365 dias.
Incluindo como desenvolver o modelo grande, quanto maior melhor, ou devemos adicionar multimodalidade, ou devemos adicionar soluções, etc.? Inclusive olhando para a taxa de penetração. Atualmente, menos de 5% das pessoas no mundo podem ter usado o ChatGPT. Como podemos aumentar a taxa de penetração de 5% para 20%? Incluindo a regulamentação, como os humanos devem lidar com o impacto da IA na sociedade? Também inclui IA, além de ser aplicada a setores como a Internet, como deve ser implementada em setores tradicionais, como assistência médica, automóveis e finanças? etc.
Acho que pode levar pelo menos um ano para que as pessoas façam várias tentativas antes que possam ter um julgamento mais claro.
03 Humanos medianos não são nobres, queremos que a IA seja melhor que humanos medianos
**Zhang Peng: Em muitos casos, os humanos tendem a confiar na tecnologia. Por exemplo, alguém dorme em um carro autônomo e causa um acidente. Essa confiança sutil na tecnologia avançada é um hábito humano? Quais são as consequências? **
Kevin Kelly: Os carros autônomos não são perfeitos, mas ainda são melhores do que os humanos na direção. Podemos confiar na inteligência artificial? Em conversas com chatbots, descobrimos que suas respostas não eram precisas, então não podíamos confiar totalmente neles. Mas acho que vamos começar a abordar isso em breve.
Hoje em dia, a maioria das pessoas confia em suas calculadoras. Você dá números, ele dá respostas e você confia nele completamente. Portanto, sabemos que a máquina é confiável e isso é algo que pode ser trabalhado para melhorar. ** E preconceitos sobre IA porque são treinados em humanos comuns que são racistas, sexistas, maliciosos, não são nobres. Na verdade, queremos que nossa IA seja melhor que os humanos. **
Assim como uma calculadora é melhor do que um ser humano comum, você deve confiar mais nas respostas que a calculadora lhe dá do que o ser humano médio. **Confiança é algo em que devemos focar e trabalhar, embora haja muitos desafios, mas no final acho que vamos confiar muito em inteligência artificial e máquinas. **
**Zhang Peng: Recentemente, muitas pessoas nos Estados Unidos acreditam que o desenvolvimento da IA é muito rápido e deveriam desacelerar ou até mesmo parar e pensar sobre isso. Você concorda com essa ideia? **
Kevin Kelly: Não, eu não apoio. Eu acho que isso é enganoso, enganoso e desnecessário. Não acho que seja realmente possível, nem aconselhável.
**Zhang Peng: Na maioria dos filmes de ficção científica ou romances de seres humanos, a IA é um personagem relativamente sombrio. Isso ocorre porque os seres humanos não têm imaginação ou temos muitas imaginações incorretas? **
**Kevin Kelly: Hollywood sempre retratou a inteligência artificial como distópica, horrível e indesejável, o que eu acho que é falta de imaginação. Porque é uma lei do universo que é muito mais fácil imaginar como algo irá falhar do que como terá sucesso. **Honestamente, é difícil para as pessoas imaginar um mundo maravilhoso daqui a 100 anos, onde a IA seja onipresente, barata e benéfica para a humanidade, mesmo que seja o mundo em que queremos viver.
Além disso, esses estúdios são muito bons em contar histórias, e os elementos de uma grande história são conflito, desastre e alguns elementos fortes. Sejam guerras, furacões ou inteligência artificial tentando destruir o mundo. Portanto, é improvável que tenhamos uma visão cor-de-rosa da inteligência artificial em um filme de Hollywood porque ela não contribui para a história, embora a possibilidade exista, mas é muito pequena.
Portanto, não podemos olhar para a inteligência artificial através da impressão de Hollywood (filmes). Infelizmente, é o que muitas pessoas fazem. Quando se trata de inteligência artificial, eles pensam em "Terminator", "2001 Space Odyssey" e "HER".
Li Zhifei: Acho que toda desconfiança se deve à ignorância. Quando enfrentamos a nova espécie de AGI, não entendo como surgem suas capacidades, o que ela quer e o que pode fazer. Essa é a questão central.
Acho que o que os humanos podem fazer, por um lado, é entender mais a AGI e, por outro lado, aprender a deixar que a AGI se explique claramente. Por exemplo, quando ele lhe dá uma resposta, você o deixa expressar o processo interno de trabalho e o monólogo interno. Isso pode criar um forte senso de confiança. **
**Zhang Peng: Para KK, parece que o "Tao Te Ching" de Lao Tzu o inspirou muito. Você mencionou que "o nível mais alto de controle está fora de controle, e o nível mais baixo de controle é controlar tudo". O que você acha do recente aumento na regulamentação governamental e tecnológica da IA? **
Kevin Kelly: Não acho que o regulamento atual seja bom. É claro que a regulamentação é importante e necessária, é necessária para garantir que as coisas funcionem bem, manter condições equitativas e garantir a segurança. Mas a regulamentação prematura é assustadora. O problema no momento é que tentamos regular algo que não conhecemos muito bem, e isso costuma levar ao desastre.
**Li Zhifei:**Por que há supervisão? Fundamentalmente, são as pessoas que temem que o impacto negativo da AGI supere o positivo, que seja muito capaz e socialmente inaceitável. Mas, nesta fase, esse julgamento está errado. Porque hoje o impacto positivo da AGI deve ser maior que o negativo.
Em segundo lugar, o verdadeiro problema com a AGI hoje é que ela não é poderosa o suficiente. Incluindo a capacidade de planejamento, a capacidade de integração com o mundo físico, a capacidade de auto-evolução, etc. Embora tenhamos visto esperança, ela ainda está muito longe da realização real. Podemos nunca chegar lá.
Portanto, meu ponto é: **não podemos apenas ver a tendência AGI e aumentar drasticamente a regulamentação. Isso pode nos permitir matar o AGI antes mesmo de alcançá-lo. A supervisão é definitivamente necessária, mas não deve ser excessivamente regulamentada. **
**Zhang Peng: A inteligência artificial tem sido falada por muitos anos, e agora parece que está entrando em uma nova era. Se a IA realmente tiver uma chance de se tornar uma forma de vida com inteligência superior à dos seres humanos no futuro, devemos integrá-los à civilização humana ou colocá-los sob controle humano? Qual caminho pode realmente atualizar a civilização humana? **
**Kevin Kelly: Acho que existe uma estrutura muito útil para entender a inteligência artificial (IA) do futuro - não a IA de hoje em comparação com a IA dos próximos 30, 50 ou 100 anos , Isso não é complicado o suficiente - isso é tratá-lo como um alienígena artificial de outro planeta. **
Muita IA será uma espécie que nunca vimos antes, pensando de forma diferente dos humanos. Eles serão tão inteligentes quanto Yoda (o personagem virtual de "Star Wars") ou Spock (o personagem virtual de "Star Trek"), e até superarão os humanos em alguns aspectos. Faríamos muitos tipos diferentes de alienígenas artificiais, os respeitaríamos e usaríamos suas diferentes inteligências para nos ajudar a resolver problemas difíceis, como descobrir o que realmente é a gravidade quântica.
Mas não entregaremos o controle a eles. Se não gostamos do comportamento deles, os mandamos de volta, fechamos. Podemos tirar o poder deles se acharmos que eles ganharam muito poder. Não queremos que a IA decida nosso destino.
**Li Zhifei:**O AGI atual é como uma borboleta, após obter muitos nutrientes das larvas, completa sua própria sublimação. É equivalente a usar todo o conhecimento da Internet dos seres humanos no passado para completar sua própria transformação. No futuro, a IA definitivamente superará os humanos de várias maneiras. Acho que os seres humanos podem ser os ancestrais da IA, e isso é muito feliz.
KK disse que temos que tratar a IA como um alienígena, o que soa mais como controle. **Acho que os humanos podem superestimar demais suas habilidades ou QI. Você pode imaginar que, por exemplo, daqui a 50 anos, entre os 100 agentes mais poderosos e influentes do mundo, talvez apenas 20 sejam humanos e os 80 restantes sejam IA. Então, acho que, no final, humanos e IA devem ser uma fusão, não controle. **
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Conversa com Kevin Kelly: É muito cedo para regulamentar a IA e deve permitir "fora de controle"
Diálogo: Zhang Peng, Li Zhifei Planejamento: Wei Shijie, Li Shiyun
Trinta anos atrás, quando a Internet estava apenas em sua infância e até mesmo os computadores pessoais eram raros, um escritor de tecnologia começou sua própria fronteira de roaming de todas as esferas da vida na época. Conversando com algumas das mentes mais brilhantes do mundo, ele vislumbrou um pouco do futuro que culminaria no livro Out of Control (1994). Até mais de dez anos depois, quando chegou a era da Internet móvel e dos smartphones, as pessoas ficaram surpresas ao descobrir que os conceitos mais recentes "interconexão global de informações, sistemas distribuídos, moeda digital, computação em nuvem etc." livro.
O escritor de tecnologia é Kevin Kelly, também conhecido como KK. Ele é o fundador da revista "Wired", observador de tecnologia e "profeta". Em 2010, a versão chinesa de "Out of Control" foi lançada, e KK também iniciou uma série de visitas à China, tornando-se gradualmente familiar ao povo chinês.
No nó de hoje, a inteligência artificial geral (AGI) está brotando e uma revolução dos tempos está prestes a começar, o que ecoa vagamente a profecia do livro "Fora de Controle". KK previu na época que os humanos acabariam se unificando com as máquinas, "as máquinas estão se tornando biológicas e os organismos estão sendo modificados". Em suas próprias palavras, "Out of Control" só falou sobre uma coisa, que é como construir um "sistema complexo" - robôs, inteligência artificial (IA), etc. podem ser considerados sistemas complexos, e ele acredita que essa ideia ainda é aplicável hoje.
Não faz muito tempo, conversamos com KK junto com Li Zhifei, o fundador e CEO da grande empresa start-up modelo Going out to ask.
O primeiro é da perspectiva prática da tecnologia e dos negócios, enquanto o último é da perspectiva abstrata dos seres humanos, da história e até do universo, discutindo a ascensão, o impacto e a ameaça da inteligência artificial. Esta é uma discussão bastante "ficção científica" e "imaginativa". Tentamos "prever" o futuro dos humanos e da inteligência artificial novamente.
Ambos argumentam que, pela primeira vez na história da humanidade, a inteligência artificial de hoje assumiu formas semelhantes à vida. Li Zhifei disse que a IA atual já é equivalente ao QI de uma criança humana e possui capacidades reais de inteligência geral, como conhecimento, lógica, raciocínio e planejamento. E KK acredita que, como uma "vida baseada em silício", a IA será tão adaptável quanto os humanos e será capaz de aprender e crescer por si mesma.
De maneira muito semelhante, ambos adotam o otimismo tecnológico. KK acredita que a IA não deixará os humanos desempregados, apenas tornará os humanos mais eficientes e os libertará de empregos "abomináveis". A IA parece aumentar o fosso entre ricos e pobres, mas é mais provável que alcance equidade e justiça tornando o bolo maior e melhor como todas as mudanças tecnológicas na história da humanidade. Em termos de impacto nos negócios, capacitará indivíduos, pequenas e médias empresas e grandes empresas ao mesmo tempo.
Como diz o nome do livro "Out of Control" - Kevin Kelly acredita que, para obter melhor o poder da IA, os humanos devem permitir que partes da IA "fiquem fora de controle". Afinal, o ChatGPT nasceu em um estado de “emergência” descontrolado para os humanos. Tanto ele quanto Li Zhifei acreditam que a inteligência atual da IA ainda é imatura e os humanos devem continuar a deixar ir, em vez de controlar (supervisionar) prematura e excessivamente. Este último pode sufocar a inovação em sua infância.
Tendo uma visão mais ampla, se um dia a IA realmente se tornar uma superforma de vida, como os humanos deveriam lidar com isso?
Tanto a ficção científica quanto os filmes pintam um futuro sombrio que geralmente termina com IAs despertando para matar humanos. Mas Kevin Kelly acredita que esta é uma manifestação da falta de imaginação humana. O fracasso é sempre mais fácil de imaginar do que o sucesso, e também é tentador para histórias. Em relação ao futuro, não é difícil imaginar os benefícios e o valor da inteligência artificial.
Sua sugestão é que a IA pode ser considerada um "alienígena artificial" e os seres humanos serão capazes de usar a sabedoria da IA para resolver seus próprios problemas e alcançar um certo grau de "controle". Li Zhifei acredita que, como o "ancestral" da IA, os humanos eventualmente se fundirão com a IA em vez de controlá-la.
Quanto a se esta profecia será verdadeira, depende do mundo depois de 5.000 dias.
A seguir, a íntegra da conversa:
01 Mesmo que a OpenAI não tenha feito o ChatGPT, outras empresas logo o farão
**Zhang Peng: Independentemente da China ou dos Estados Unidos, as pessoas estão discutindo modelos grandes recentemente. Como você se sente sobre essa onda de mudança tecnológica em grandes modelos? Você vai se sentir muito chocado? **
Kevin Kelly: A inteligência artificial (IA) existe há décadas. Um grande salto ocorreu quando os modelos de IA começaram a empregar redes neurais e aprendizado profundo, e eles se tornaram cada vez maiores. Há cerca de 4 ou 5 anos, começou a produzir modelos de transformadores muito grandes (modelos de aprendizagem profunda com mecanismo de auto-atenção). Nos últimos dois anos, começou a interagir com grandes modelos de linguagem.
De fato, recentemente, a grande mudança na IA não é sua capacidade, e seu desempenho nesse aspecto não é muito melhor. **O que realmente mudou na IA ultimamente é que ela nos permite ter uma interface de usuário conversacional que pode realmente se comunicar com a IA em linguagem (natural). Antes disso, as pessoas precisavam aprender muito conhecimento de programação e ser muito proficientes para usar a IA. Mas agora, de repente, todo mundo está usando IA. Essa é a parte realmente emocionante. **
Li Zhifei: Concordo com o que KK disse, a principal mudança no atual modelo de linguagem grande é a melhoria dos recursos de interação de linguagem natural. Isso é realmente o que muitas pessoas comuns podem sentir, e é justamente por isso que o ChatGPT tem uma influência social tão grande hoje.
Mas acho que também há muita variação nas capacidades de grandes modelos hoje, e é essa variação que torna possível sua interação natural. Porque, por trás da realização da interação natural, a IA precisa ter forte conhecimento, capacidade de compreensão, capacidade de linguagem, capacidade de raciocínio e planejamento, etc. A IA deve ter um avanço nessas capacidades básicas para alcançar a interação de linguagem natural.
E acho que a capacidade de grandes modelos no futuro não será apenas interação de linguagem natural. Coisas como escrever programas, processos de automação empresarial e automação de robôs não são interativas, mas se tornarão possíveis no futuro.
**Zhang Peng: Concordo plenamente que a capacidade da IA de se comunicar melhor com os humanos trará uma mudança de paradigma na tecnologia e nos negócios. Se o ChatGPT é a segunda curva do desenvolvimento da IA, seu aparecimento é inevitável ou acidental? **
**Kevin Kelly:**ChatGPT é capaz de superar todas as expectativas. **Acho que ninguém esperava isso, inclusive pessoas da área de IA. Na verdade, a maioria dos pesquisadores não sabe como funciona o ChatGPT e tentam melhorá-lo, mas é difícil porque não sabem como funciona. Portanto, o surgimento do ChatGPT foi um acidente. **
Embora o ChatGPT seja muito surpreendente, também vemos suas limitações. **Sua principal limitação é que o modelo foi treinado em conteúdo médio de autoria humana, portanto, tende a produzir resultados médios. E o que muitas vezes queremos não é a média, mas algo acima da média. ** Isso é difícil de fazer.
Em segundo lugar, esses modelos são otimizados para plausibilidade, não precisão. Portanto, como torná-los mais precisos é um grande desafio com o qual todos estão lidando atualmente.
Li Zhifei: Acho que o surgimento do ChatGPT é acidental a curto prazo, mas inevitável a longo prazo. Pode-se dizer que foi acidental que a OpenAI tenha feito o ChatGPT no final do ano passado, mas mesmo que não tenha feito, outras empresas o farão em breve. **
Isso se repetiu inúmeras vezes na história da tecnologia. Tomando o aprendizado profundo como exemplo, o AlexNet foi o primeiro a fazer anotações de imagens em 2012, mas naquela época muitas equipes com fortes crenças e capacidades de engenharia também o faziam. Se o AlexNet não conseguisse, outros o fariam. Além disso, o Google fez um transformador em 2017 para resolver os problemas de baixa escalabilidade de modelos de sequência como RNN e LSTM. Se o Google não conseguisse, outras equipes o fariam.
**O pano de fundo do nascimento do ChatGPT é que o transformador já está muito maduro e temos forte poder de computação para treinar os dados massivos da Internet. Todos os elementos necessários do ChatGPT já estão disponíveis e seu nascimento é inevitável. ** É que o OpenAI o organizou melhor naquele momento.
**Zhang Peng: Ao falar sobre inevitabilidade e contingência, pensei em uma palavra que tem sido muito popular recentemente, "emergência". Esta palavra apareceu pelo menos 88 vezes em "Out of Control" de KK. Como devemos entender o significado desta palavra hoje? **
Kevin Kelly: Do ponto de vista inglês, "emergência" é um termo que se refere ao comportamento de um sistema, um monte de coisas interconectadas, como a Internet, robôs, corpos, ecossistemas ou mesmo O mundo, cujo comportamento não está contido no comportamento de nenhuma parte isolada. Por exemplo, uma colmeia pode se lembrar de coisas além da vida de uma única abelha, então a própria colmeia tem um comportamento, habilidade e poder que as partes individuais não têm. Chamamos isso de "emergência".
Da mesma forma, grande parte da IA que está sendo gerada também é "emergente". Como não há um lugar no modelo que explique de onde ele veio, todas as partes precisam trabalhar juntas para produzir esse novo recurso. Assim como não há "pensamento" em nosso cérebro, o "pensamento" "emerge" de todo o neurônio. **Coisas como pensamento, evolução e aprendizado podem "emergir" do sistema.
**Li Zhifei:**Meu entendimento de "emergência" vem do livro "Complexidade", que fala sobre "mais é diferente" e "mais é diferente". Assim como um velho ditado chinês, "mudança quantitativa leva a mudança qualitativa". A primeira vez que a grande modelo falou sobre “emergência” foi em um artigo publicado por Stanford e Google no final do ano passado. Eles descobriram por meio de experimentos que, ao aumentar o tamanho do modelo grande, quando um certo ponto crítico era alcançado, ele repentinamente “emergia” em uma certa capacidade.
Agora sinto que a palavra "emergência" é realmente usada em demasia. Como não podemos explicar de onde vem a habilidade do modelo grande, nós o chamamos de "emergência".Esta palavra não pode ser explicada ou manipulada, e não nos ajuda a treinar e aplicar o modelo grande. Agora, todos não estão mais estudando "emergência", mas mais pesquisas sobre a relação quantitativa entre a quantidade de parâmetros do modelo grande e o desempenho final, o que pode ser mais útil para entendermos e controlarmos o modelo grande.
**Zhang Peng: Podemos entender que a "emergência" levará à "perda de controle"? **
Kevin Kelly: Este entendimento não é totalmente correto. Claro, terá "partes fora de controle", se você quiser usar o poder do comportamento "emergente", pode ser necessário tolerar algumas coisas fora de seu controle. Nossa compreensão e controle podem não ser bons o suficiente em IA no momento, mas são realmente necessários para resultados ideais.
Mas, ao mesmo tempo, não podemos deixar que tudo “saia do controle”, devemos realizar um certo grau de “controle”, ou seja, orientar e gerenciar a inteligência artificial. **Novamente, não queremos ser excessivamente restritivos, mas algum nível de controle deve ser alcançado. Provavelmente nunca teremos controle total sobre eles, ** especialmente com inteligências artificiais mais poderosas, provavelmente nunca entenderemos completamente como eles funcionam. Essa é a compensação.
**Zhang Peng: Já se passaram muitos anos desde que você escreveu o livro "Fora de controle". Nesta conjuntura de hoje, combinada com essa onda de revolução da IA, você acha que há alguma parte de "Fora de controle" que valha a pena recalibrando? **
Kevin Kelly: Não acho que falei muito sobre inteligência artificial e descontrole no livro "Out of Control", na verdade, ele falou principalmente sobre como transformar coisas simples em coisas complexas. Existe algo chamado arquitetura de subsistema de Rodney Brooks, que menciona que você pode fazer um robô complexo incorporando partes de inteligência nele. O processo que leva à complexidade é que você coloca coisas em cima de coisas que já estão funcionando. (A teoria arquitetônica de Brooks propõe que o comportamento de nível superior precisa conter o comportamento de nível inferior).
**Como um inseto, mesmo se você cortar sua cabeça, ele ainda pode andar, porque a função de andar é mais parcialmente concluída. Assim como nosso cérebro tem um núcleo responsável pela respiração e outras funções autônomas, adicionamos mais camadas de complexidade a ele. Essa ideia ainda é válida hoje, quando as pessoas estão fazendo robôs e inteligência artificial e tentando torná-los mais complexos. ** Esta é realmente a única coisa sobre a qual falo em "Out of Control" e acho que o ponto ainda permanece.
**Zhang Peng: Lembro que você tinha uma perspectiva interessante antes, ou seja, "assumindo que a tecnologia é um tipo de vida", quando ela surgir com uma inteligência próxima ao ser humano, o que ela vai querer a seguir? Como isso afetará o mundo dos negócios e a sociedade humana? **
**Kevin Kelly:**Tecnologia é o que chamo de "sétimo reino da vida". Aceleramos a evolução da vida para um reino "seco" que não precisa mais de um ambiente "úmido", mas pode existir em silício. Podemos usar nossas mentes para criar outras tecnologias realistas. Eles são adaptáveis e podem aprender e crescer.
Meu ponto é que a tecnologia busca basicamente as mesmas coisas que a vida. Por exemplo, eles aumentariam em diversidade à medida que evoluíssem e também se tornariam mais especializados e específicos. Nosso corpo tem 52 tipos diferentes de células, incluindo células cardíacas, células ósseas e células ósseas. Também criaremos IAs especializados que executam tarefas específicas, como tradução de idiomas, geração de imagens e direção autônoma. **Além disso, a tecnologia se tornará mais complexa como a vida, o que é óbvio.
No final, a tecnologia também será "mutuamente benéfica e simbiótica" como a vida. A vida evoluiu de forma tão complexa que só entrou em contato com outras formas de vida, nunca com material inanimado. Como as bactérias em seu intestino. Eles são cercados apenas por outras células vivas. ** No futuro, também haverá alguns AIs que não são projetados para humanos, mas são projetados para servir a outros AIs. Por exemplo, haverá AIs dedicadas a manter outras AIs, AIs que só se comunicam com outras AIs. **
**Li Zhifei:**Quero explicar a relação entre IA e a vida da perspectiva de um engenheiro. Há alguns anos, muitas pessoas sempre me perguntavam: "Quantos anos tem o QI do Alphago (o primeiro programa de computador a derrotar o campeão mundial de Go)?" Naquela época, eu não gostava desse tipo de pergunta porque não conseguia não responda. Naquela época, embora a IA pudesse jogar Go e tivesse um QI alto, ela não conseguia conduzir conversas em linguagem natural como uma criança de 3 anos. Naquela época, seu mecanismo era fundamentalmente diferente do dos seres humanos.
Mas hoje em dia, gosto especialmente de comparar a IA a uma criança. Acho que o núcleo é porque a IA de hoje já possui as verdadeiras capacidades gerais de inteligência que as crianças têm, como conhecimento, lógica, raciocínio, planejamento e assim por diante. **Quero dizer que a IA de hoje é mais como um corpo vivo. Ele tem o QI de uma criança de 5 anos e o conhecimento de um professor universitário e também de um bebê recém-nascido, dependendo se ele viu os dados. **
Com base nesse entendimento, acho que precisamos repensar o que a IA realmente deseja. Para uma criança de 5 anos, ela primeiro se autopurificará, seguida de auto-replicação e colaboração. Eu mesmo não tenho uma boa resposta para essa pergunta.
02 Nos próximos 5000 dias, passaremos por um período de transição estreito e urgente
**Zhang Peng: Quando as capacidades da IA crescem rapidamente, muitas pessoas comuns se sentem ansiosas e temem perder sua competitividade. KK tem alguma opinião e sugestão sobre esse assunto? **
**Kevin Kelly:**Embora a tecnologia de IA esteja em desenvolvimento há 20 anos, as pessoas acham que é um sucesso instantâneo e estão preocupadas com sua taxa de crescimento e capacidades. **Estamos sempre propensos a imaginar cenários de pior caso em vez de cenários de melhor caso. Acho que uma maneira de lidar com a ansiedade da mudança é olhar para trás. Na verdade, os humanos já tiveram esse tipo de ansiedade no passado, mas nunca no pior cenário que imaginávamos. É provável que seja o mesmo desta vez. **
A melhor maneira que encontrei para lidar com minhas ansiedades é tentar usá-las. Acho que a maior parte da ansiedade vem daqueles que não usaram IA e mantêm um senso de distância da IA. Na verdade, quando começarem a tentar usá-la, verão que a IA tem benefícios, limitações e malefícios. Isso reduzirá a ansiedade deles.
Li Zhifei: Se a AGI não acontecer hoje, acontecerá amanhã. Como é imparável, você deve abraçá-lo e entendê-lo. Para mim agora, AGI é um parceiro de pensamento. Vou conversar com ele sobre muitos problemas, seu conhecimento é muito abrangente e ele pode me aconselhar de uma perspectiva ampla e abrangente. Acho que essa pode ser uma boa forma de IA humana.
Ao mesmo tempo, podemos ver que os grandes modelos de hoje ainda carecem de alguns recursos críticos da AGI real. Por exemplo, a capacidade de raciocínio lógico e planejamento de tarefas complexas.Se você deseja que a IA desmonte as etapas e atinja o objetivo com base em um determinado objetivo, não é tão bom no momento.
**Zhang Peng: KK também é um criador de conteúdo. Qual você acha que é o valor final dos criadores que não podem ser substituídos por IA na era da IA? **
Kevin Kelly: Usei inteligência artificial e outras ferramentas em minha escrita. Acho que ninguém vai perder o emprego por causa da IA. **Porque não consigo encontrar um único exemplo em que um artista tenha perdido o emprego por causa da IA. É um medo imaginado, um problema que não existe. O emprego é provavelmente o problema menos sério associado à IA. **
O que estou tentando dizer é que o que acabou pode ser a descrição do seu trabalho, que é o que você realmente faz, pode mudar. ** Algumas pessoas observaram que 50% de seu trabalho pode ser feito por IA, enquanto os outros 50% serão aumentados e amplificados por IA. **Assim, no futuro, metade do trabalho pode não precisar mais de pessoas para fazê-lo, e as pessoas podem fazer melhor os 50% restantes do trabalho. Geralmente, esse é o padrão que veremos.
**É claro que certos tipos de trabalho desaparecem, como pedir comida e contar dinheiro como caixa. Não queremos que os humanos façam esses trabalhos, então eles definitivamente desaparecerão e devem desaparecer. **
**Zhang Peng: Como você avalia a competitividade de jovens e idosos na era da IA? **
Kevin Kelly: As pessoas mais velhas têm muitas vantagens, são bem informadas e experientes. Os jovens também têm muitas vantagens porque não sabem o que é impossível. Acho que ninguém é mais competitivo do que quem.
Eu diria que os jovens de hoje costumam falar sobre serem nativos digitais e ter uma vantagem sobre a tecnologia. Mas devido ao rápido desenvolvimento da inteligência artificial e outras coisas, os jovens podem ser aborígenes ontem e ser como "velhos" amanhã. Quer você seja jovem ou velho, todo mundo é um "novato" na nova era e deve continuar a aprender coisas novas rapidamente ao longo de suas vidas.
**Zhang Peng: Com domínio diferente da tecnologia de IA, isso trará mudanças na lacuna entre ricos e pobres? Ou seja, as pessoas que usarão IA no futuro serão mais produtivas e mais aptas a competir? **
Kevin Kelly: Sim, a diferença de riqueza aumentará. **Acho que com o tempo, sua capacidade de trabalhar com inteligência artificial pode ser mais importante do que ir para a faculdade ou não. Talvez o propósito da faculdade seja ensiná-lo a trabalhar com inteligência artificial. Para os muito ambiciosos, se aprenderem a usar a inteligência artificial, o salário fará muita diferença. **
No entanto, à medida que a IA se espalha pelo mundo, no futuro alcançaremos igualdade de acesso à IA globalmente, assim como igualdade de acesso à educação. Conheço amigos que dirigem grandes empresas nos Estados Unidos e contratam funcionários que trabalham remotamente, desde que possam, o histórico não importa. Portanto, muitas pessoas que trabalham na América do Sul e na África serão pagas de acordo com os padrões salariais americanos. Eles vão ganhar mais dinheiro do que fariam de outra forma.
**Zhang Peng: O rápido desenvolvimento da tecnologia pode trazer desigualdade e injustiça no campo social. Como devemos encontrar um equilíbrio entre desenvolvimento e equidade e justiça? **
Kevin Kelly: Acho que podemos encontrar um equilíbrio entre progresso e justiça. Na verdade, acho que grande parte do progresso é espalhar a equidade.
Comparado com centenas de anos atrás, o mundo era muito injusto. Você nasceu escravo, servo ou camponês, e não havia chance de ir além disso. Mas graças ao progresso, agora temos um mundo mais igualitário e justo. Acredito que o desenvolvimento da tecnologia pode aumentar a equidade, embora não seja possível, é possível.
**Li Zhifei:**Do ponto de vista de um engenheiro,**Se você olhar para a justiça do ponto final e esperar que todos tenham o mesmo nível de riqueza e habilidade, isso definitivamente levará a mais e mais injustiças. Mas se você olhar para a justiça de um ponto de partida, como tornar as ferramentas de IA disponíveis para todos, isso pode ser melhor para alcançar a justiça. **
**Zhang Peng: Agora vemos que algumas empresas, como a Midjourney, uma empresa Wenshengtu, criaram uma receita anual de centenas de milhões de dólares com apenas uma dúzia de pessoas. Podemos entender que a IA mudou fundamentalmente a produtividade? Como resultado, as empresas do futuro se tornarão menores e mais enxutas? **
Kevin Kelly: O incrível poder que a Internet e a inteligência artificial agora possuem podem capacitar simultaneamente indivíduos, corporações de médio porte e grandes corporações. Isso torna mais fácil para um indivíduo possuir uma empresa, então veremos muitas novas empresas que são apenas IA mais algumas pessoas. Mas, ao mesmo tempo, também vimos algumas empresas crescerem devido à existência de inteligência artificial e até aumentarem o tamanho de um milhão de pessoas.
**Portanto, não vamos entrar repentinamente em um mundo de empresas com apenas uma ou duas pessoas, isso não vai acontecer. Ao mesmo tempo, não beneficiaremos apenas as grandes empresas. Essa é a beleza da IA, ela pode beneficiar e capacitar a todos. **
Li Zhifei: Acho que o efeito da cauda longa e o efeito Mateus se tornarão cada vez mais óbvios.
Por um lado, a cauda ficará cada vez mais longa, e cada vez mais pequenas empresas aparecerão, e elas se tornarão um sistema completo por si mesmas. Por outro lado, quando uma grande empresa possui fortes recursos de IA, seu poder organizacional se torna mais forte. Anteriormente, só podia organizar 1.000 pessoas, mas agora pode organizar 10.000, 100.000 ou 1 milhão de pessoas. Por exemplo, a indústria de entrega de alimentos da China depende de um conjunto completo de sistemas de automação para organizar um grande grupo de passageiros.
**Zhang Peng: No momento, IA também é o tema mais quente no Vale do Silício. Muitos empreendedores pensam em inovação de negócios com grandes modelos como núcleo. KK tem alguma observação sobre isso? **
Kevin Kelly: Isso me lembra os primeiros dias da Internet. Quando a internet surgiu, de repente, todas as empresas perceberam que tinham que se colocar na internet. E agora, todas as empresas estão aproveitando a interface de conversação da IA, introduzindo grandes modelos de linguagem e inteligência artificial para conduzir os negócios. Um exemplo é o Wendy's, uma lanchonete de fast-food da moda que agora está usando uma interface de conversação, permitindo que os clientes peçam comida no carro e falem com uma máquina.
Além disso, existem alguns serviços e ideias totalmente novos que ainda não surgiram. Não sei os números exatos, mas o que sei com certeza é que centenas de bilhões de dólares estão entrando neste espaço agora. Na maioria das vezes, a maioria deles provavelmente não terá sucesso, mas muitos deles serão. Veremos algumas coisas incríveis nos próximos três anos e algumas empresas totalmente novas que podem se tornar realmente grandes.
**Zhang Peng: Nos últimos 5.000 dias, KK fez muitas previsões corretas e tem uma visão prospectiva de muitas direções importantes. Recentemente, você previu que os próximos 5.000 dias serão um dos períodos mais críticos da história humana. Onde está a chave para este nó? Em que direção a humanidade levará à encruzilhada? **
Kevin Kelly: Há muitas outras coisas acontecendo no mundo além da inteligência artificial. Enfrentamos o desafio das mudanças climáticas, a engenharia genética está no horizonte, é fácil imaginar a inteligência artificial como humilhante, é fácil ver a vigilância se tornar onipresente e perdermos o controle. Enfrentamos muitos desafios e oportunidades em escala global.
**Este é um período de transição estreito e urgente, e devemos superá-lo. **Acho que podemos obter acesso a este portal estreito por meio de eletrificação, veículos elétricos, energia alternativa e sucesso no desenvolvimento de uma nova vacina da coroa. Atualmente, ainda existem muitas tensões e divisões políticas no planeta, mas precisamos de ação coletiva e precisamos chegar a um consenso nas áreas de tecnologia, meio ambiente, etc., e trabalhar juntos para resolver problemas.
**Esta é a primeira vez na Terra que culturas globais, economias globais e impactos ambientais globais surgiram. Esta é também a nossa chance de nos tornarmos uma civilização mais global nos próximos 5.000 dias. **
Li Zhifei: KK disse que nos próximos 5.000 dias, o mundo terá muitos outros desafios além da IA. Acho que os próximos 365 dias também são muito importantes apenas do ponto de vista da IA. A IA passou por muitas rodadas, cada vez que as pessoas têm grandes expectativas sobre ela, mas não funciona, e então as pessoas esperam valores altos e não funciona novamente. Acho que se a onda de AGI de hoje será algo que as pessoas da indústria acham incrível, ou se se tornará algo muito importante na sociedade, depende em grande parte dos próximos 365 dias.
Incluindo como desenvolver o modelo grande, quanto maior melhor, ou devemos adicionar multimodalidade, ou devemos adicionar soluções, etc.? Inclusive olhando para a taxa de penetração. Atualmente, menos de 5% das pessoas no mundo podem ter usado o ChatGPT. Como podemos aumentar a taxa de penetração de 5% para 20%? Incluindo a regulamentação, como os humanos devem lidar com o impacto da IA na sociedade? Também inclui IA, além de ser aplicada a setores como a Internet, como deve ser implementada em setores tradicionais, como assistência médica, automóveis e finanças? etc.
Acho que pode levar pelo menos um ano para que as pessoas façam várias tentativas antes que possam ter um julgamento mais claro.
03 Humanos medianos não são nobres, queremos que a IA seja melhor que humanos medianos
**Zhang Peng: Em muitos casos, os humanos tendem a confiar na tecnologia. Por exemplo, alguém dorme em um carro autônomo e causa um acidente. Essa confiança sutil na tecnologia avançada é um hábito humano? Quais são as consequências? **
Kevin Kelly: Os carros autônomos não são perfeitos, mas ainda são melhores do que os humanos na direção. Podemos confiar na inteligência artificial? Em conversas com chatbots, descobrimos que suas respostas não eram precisas, então não podíamos confiar totalmente neles. Mas acho que vamos começar a abordar isso em breve.
Hoje em dia, a maioria das pessoas confia em suas calculadoras. Você dá números, ele dá respostas e você confia nele completamente. Portanto, sabemos que a máquina é confiável e isso é algo que pode ser trabalhado para melhorar. ** E preconceitos sobre IA porque são treinados em humanos comuns que são racistas, sexistas, maliciosos, não são nobres. Na verdade, queremos que nossa IA seja melhor que os humanos. **
Assim como uma calculadora é melhor do que um ser humano comum, você deve confiar mais nas respostas que a calculadora lhe dá do que o ser humano médio. **Confiança é algo em que devemos focar e trabalhar, embora haja muitos desafios, mas no final acho que vamos confiar muito em inteligência artificial e máquinas. **
**Zhang Peng: Recentemente, muitas pessoas nos Estados Unidos acreditam que o desenvolvimento da IA é muito rápido e deveriam desacelerar ou até mesmo parar e pensar sobre isso. Você concorda com essa ideia? **
Kevin Kelly: Não, eu não apoio. Eu acho que isso é enganoso, enganoso e desnecessário. Não acho que seja realmente possível, nem aconselhável.
**Zhang Peng: Na maioria dos filmes de ficção científica ou romances de seres humanos, a IA é um personagem relativamente sombrio. Isso ocorre porque os seres humanos não têm imaginação ou temos muitas imaginações incorretas? **
**Kevin Kelly: Hollywood sempre retratou a inteligência artificial como distópica, horrível e indesejável, o que eu acho que é falta de imaginação. Porque é uma lei do universo que é muito mais fácil imaginar como algo irá falhar do que como terá sucesso. **Honestamente, é difícil para as pessoas imaginar um mundo maravilhoso daqui a 100 anos, onde a IA seja onipresente, barata e benéfica para a humanidade, mesmo que seja o mundo em que queremos viver.
Além disso, esses estúdios são muito bons em contar histórias, e os elementos de uma grande história são conflito, desastre e alguns elementos fortes. Sejam guerras, furacões ou inteligência artificial tentando destruir o mundo. Portanto, é improvável que tenhamos uma visão cor-de-rosa da inteligência artificial em um filme de Hollywood porque ela não contribui para a história, embora a possibilidade exista, mas é muito pequena.
Portanto, não podemos olhar para a inteligência artificial através da impressão de Hollywood (filmes). Infelizmente, é o que muitas pessoas fazem. Quando se trata de inteligência artificial, eles pensam em "Terminator", "2001 Space Odyssey" e "HER".
Li Zhifei: Acho que toda desconfiança se deve à ignorância. Quando enfrentamos a nova espécie de AGI, não entendo como surgem suas capacidades, o que ela quer e o que pode fazer. Essa é a questão central.
Acho que o que os humanos podem fazer, por um lado, é entender mais a AGI e, por outro lado, aprender a deixar que a AGI se explique claramente. Por exemplo, quando ele lhe dá uma resposta, você o deixa expressar o processo interno de trabalho e o monólogo interno. Isso pode criar um forte senso de confiança. **
**Zhang Peng: Para KK, parece que o "Tao Te Ching" de Lao Tzu o inspirou muito. Você mencionou que "o nível mais alto de controle está fora de controle, e o nível mais baixo de controle é controlar tudo". O que você acha do recente aumento na regulamentação governamental e tecnológica da IA? **
Kevin Kelly: Não acho que o regulamento atual seja bom. É claro que a regulamentação é importante e necessária, é necessária para garantir que as coisas funcionem bem, manter condições equitativas e garantir a segurança. Mas a regulamentação prematura é assustadora. O problema no momento é que tentamos regular algo que não conhecemos muito bem, e isso costuma levar ao desastre.
**Li Zhifei:**Por que há supervisão? Fundamentalmente, são as pessoas que temem que o impacto negativo da AGI supere o positivo, que seja muito capaz e socialmente inaceitável. Mas, nesta fase, esse julgamento está errado. Porque hoje o impacto positivo da AGI deve ser maior que o negativo.
Em segundo lugar, o verdadeiro problema com a AGI hoje é que ela não é poderosa o suficiente. Incluindo a capacidade de planejamento, a capacidade de integração com o mundo físico, a capacidade de auto-evolução, etc. Embora tenhamos visto esperança, ela ainda está muito longe da realização real. Podemos nunca chegar lá.
Portanto, meu ponto é: **não podemos apenas ver a tendência AGI e aumentar drasticamente a regulamentação. Isso pode nos permitir matar o AGI antes mesmo de alcançá-lo. A supervisão é definitivamente necessária, mas não deve ser excessivamente regulamentada. **
**Zhang Peng: A inteligência artificial tem sido falada por muitos anos, e agora parece que está entrando em uma nova era. Se a IA realmente tiver uma chance de se tornar uma forma de vida com inteligência superior à dos seres humanos no futuro, devemos integrá-los à civilização humana ou colocá-los sob controle humano? Qual caminho pode realmente atualizar a civilização humana? **
**Kevin Kelly: Acho que existe uma estrutura muito útil para entender a inteligência artificial (IA) do futuro - não a IA de hoje em comparação com a IA dos próximos 30, 50 ou 100 anos , Isso não é complicado o suficiente - isso é tratá-lo como um alienígena artificial de outro planeta. **
Muita IA será uma espécie que nunca vimos antes, pensando de forma diferente dos humanos. Eles serão tão inteligentes quanto Yoda (o personagem virtual de "Star Wars") ou Spock (o personagem virtual de "Star Trek"), e até superarão os humanos em alguns aspectos. Faríamos muitos tipos diferentes de alienígenas artificiais, os respeitaríamos e usaríamos suas diferentes inteligências para nos ajudar a resolver problemas difíceis, como descobrir o que realmente é a gravidade quântica.
Mas não entregaremos o controle a eles. Se não gostamos do comportamento deles, os mandamos de volta, fechamos. Podemos tirar o poder deles se acharmos que eles ganharam muito poder. Não queremos que a IA decida nosso destino.
**Li Zhifei:**O AGI atual é como uma borboleta, após obter muitos nutrientes das larvas, completa sua própria sublimação. É equivalente a usar todo o conhecimento da Internet dos seres humanos no passado para completar sua própria transformação. No futuro, a IA definitivamente superará os humanos de várias maneiras. Acho que os seres humanos podem ser os ancestrais da IA, e isso é muito feliz.
KK disse que temos que tratar a IA como um alienígena, o que soa mais como controle. **Acho que os humanos podem superestimar demais suas habilidades ou QI. Você pode imaginar que, por exemplo, daqui a 50 anos, entre os 100 agentes mais poderosos e influentes do mundo, talvez apenas 20 sejam humanos e os 80 restantes sejam IA. Então, acho que, no final, humanos e IA devem ser uma fusão, não controle. **