O que você faria se pudesse ter visão, energia, sorte extraordinárias e a riqueza que vem com isso?
A resposta de Musk é: administre pessoalmente seis empresas para preservar o fogo da civilização humana e lutar contra a perigosa IA.
Na quarta-feira, o biógrafo de Musk, Walter Issacson, publicou alguns capítulos de sua próxima biografia na revista "Time", descrevendo o medo e a preocupação consistentes de Musk com a IA por mais de uma década, bem como seu pensamento sobre o destino futuro da humanidade, Wall Street Insights Key foram feitos trechos.
Medo da chegada da IA
O medo de Musk em relação à IA originou-se de uma reunião com o pesquisador de IA Demis Hassabis em 2012.
Naquela época, Musk o convidou para visitar a fábrica da SpaceX e explicou que a razão pela qual construiu um foguete capaz de ir a Marte foi para preservar o fogo da civilização humana em caso de um dia do juízo final, como uma guerra nuclear e o impacto de um asteróide.
Demis o lembrou que mais um item deveria ser adicionado à lista do Juízo Final - a IA, a inteligência das máquinas pode ultrapassar os humanos no futuro, e pode até querer eliminar os humanos.
Musk pensou por um minuto, depois decidiu que Demis estava certo e imediatamente investiu US$ 5 milhões na DeepMind para “monitorar o que ela estava fazendo”.
Algumas semanas depois dessa conversa, Musk apresentou DeepMind a Larry Page, um velho amigo que o conhece há mais de dez anos e cofundador do Google, e muitas vezes conversava com Page tarde da noite sobre a ameaça da IA aos humanos, mas o último zombou disso.
Em 2013, na festa de aniversário de Musk, eles travaram um acalorado debate. Musk acredita que se não forem tomadas medidas imediatas e não forem estabelecidas salvaguardas, o rápido desenvolvimento da IA poderá extinguir a humanidade.
Mas Page não se importou nem um pouco. Ele perguntou: se um dia as máquinas ultrapassarem os humanos em inteligência ou mesmo em consciência, o que isso importa? Este é simplesmente o próximo estágio de evolução. Ele acusou Musk de ser um “especista” que favorece sua própria espécie.
Musk também admitiu generosamente:
"Eu gosto da humanidade, cara."
OpenAI foi fundada para verificar e equilibrar o Google
No final daquele ano, a notícia de que o Google, sob a liderança de Page, planejava adquirir a DeepMind chegou aos ouvidos de Musk, que estava preocupado com o que aconteceria se a IA poderosa fosse dominada por pessoas como Page, que não se importavam com os seres humanos.
Então, ele trouxe seu amigo e cofundador do PayPal, Luke Nosek, tentando arrecadar dinheiro para impedir o negócio, mas falhou, e o Google concluiu a aquisição em janeiro de 2014. Em resposta às preocupações de Musk, Page concordou em criar um “comitê de segurança”, com Musk e o já mencionado especialista em IA Demis como membros, e outros membros, incluindo o presidente do Google, Eric Schmidt, e o cofundador do LinkedIn, Reid Hoffman.
Porém, após participar da primeira e única reunião do “comitê de segurança”, Musk ficou ainda mais desconfiado de Page e do Google, acreditando que as pessoas do comitê estavam falando bobagens. Ele começou a organizar encontros intensivos para discutir como combater o Google e promover a segurança da IA.
Em maio de 2015, ele também teve uma longa conversa cara a cara com o então presidente dos EUA, Obama, explicando os riscos da IA e propondo que o presidente regulamentasse a IA. Mas Obama não adoptou a sua proposta.
Então, o fundador da OpenAI, Sam Altman, apareceu nesta época. Musk e ele acreditam que um grande número de sistemas de IA concorrentes com freios e contrapesos é mais seguro do que ter a IA controlada por algumas grandes empresas. Em um jantar, os dois se deram bem e decidiram co-fundar um laboratório de pesquisa de inteligência artificial sem fins lucrativos e batizá-lo de OpenAI.
No entanto, em 2018, como a Tesla também estava a desenvolver IA para conduzir o seu software de piloto automático, a fim de evitar potenciais conflitos de interesses, Musk não pôde continuar na OpenAI. Ele tentou persuadir Altman a fundir a OpenAI com a Tesla, mas foi rejeitado; além disso, ele também estava muito insatisfeito com a comercialização gradual da OpenAI, então finalmente rompeu com a equipe da OpenAI.
Olhando para o cenário atual de negócios de Musk, cada empresa representa sua solução para a crise da IA: a SpaceX pode construir a Arca de Noé para preservar o fogo da civilização; a Neuralink, uma empresa de interface cérebro-computador, pode tornar os corpos humanos mais flexíveis. Tesla recebe e processa 160 bilhões de quadros de vídeo de câmeras de carros todos os dias. Esses dados do mundo real podem ser usados para treinamento de "inteligência artificial geral (AGI)", e o robô humanóide Optimus se tornará o portador físico da AGI. Todos os tipos de recursos podem ser integrados em sua nova empresa – xAI.
No primeiro semestre deste ano, a onda de IA liderada pela OpenAI não apenas roubou os holofotes de Musk, mas também o deixou mais preocupado com a possibilidade de esses sistemas de IA controlados por grandes empresas espalharem o "vírus da cultura do despertar" e envenenar as mentes dos americanos. adolescentes; ele também Há preocupações de que os atuais sistemas de IA que podem aprender por conta própria possam se tornar hostis aos humanos e que robôs treinados com dados do Twitter possam produzir informações falsas ou fraudulentas.
Ele estava ansioso para entrar em ação, ressentido por ter fundado e financiado a OpenAI, mas agora estava sendo marginalizado. A IA é a maior tempestade que se forma. Ninguém gosta mais de tempestades do que Musk.
Portanto, no primeiro semestre do ano, Musk lançou um ataque feroz à OpenAI e a Altman pessoalmente. Altman podia entender a agressividade de Musk. Em uma entrevista, ele disse que, embora Musk se comportasse como um idiota, ele acreditava que era verdade. Alguns são muito preocupados com o campo da IA e preocupados com o futuro da humanidade.
Musk acredita que está na posição de liderança no caminho AGI.
Embora eu não tenha conseguido acompanhar a tendência e construir um chatbot de IA quando a onda de IA estava no auge. Mas Musk acredita que ainda está à frente na corrida para a AGI.
Ele acredita que os chatbots que só podem gerar texto serão de uso limitado, com ênfase em bots físicos e inteligentes. Por um lado, a Tesla já possui tecnologia avançada de condução autónoma e o robô humanóide Optimus; por outro lado, os tweets de centenas de milhões de utilizadores no Twitter e as câmaras no corpo de Tesla também fornecem dados suficientes para o desenvolvimento da AGI.
Portanto, ele está confiante de que pode criar AGI mais rápido que OpenAI:
"As capacidades de IA do mundo real da Tesla são subestimadas. Imagine se Tesla e OpenAI tivessem que trocar tarefas. Eles tivessem que construir carros autônomos e nós tivéssemos que construir grandes chatbots de modelos de linguagem. Quem ganharia? Nós vencemos."
Até recentemente, Musk ainda pensava em como reduzir os riscos da IA para que a consciência humana pudesse ser transmitida de geração em geração.
Ele acredita que a inteligência humana está se estabilizando e que há cada vez menos recém-nascidos. Ao mesmo tempo, a inteligência computacional está crescendo exponencialmente, como a “Lei de Moore sobre esteróides”. A capacidade intelectual biológica empalidece em comparação com a capacidade intelectual digital.
Musk acredita que o “momento de singularidade”, quando a IA avançar a uma velocidade descontrolada e deixar os humanos para trás, chegará mais cedo do que pensamos.
"Não posso ficar parado e, com o advento da inteligência artificial, estou um pouco cético se deveria gastar tanto tempo pensando no Twitter. Claro, provavelmente poderia torná-lo a maior instituição financeira do mundo. Mas eu só tenho tanta energia por dia e hora, não preciso ganhar mais dinheiro nem nada.
Então, onde devo gastar meu tempo? Comece a nave estelar. Chegar a Marte é muito mais urgente agora. Além disso, preciso me concentrar em proteger a IA. É por isso que quero abrir uma empresa de IA. "
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Biografia de Musk, insider importante: há 10 anos ele estava preocupado que a IA destruísse a humanidade
Autor: Chang Jiashuai, Wall Street Insights
O que você faria se pudesse ter visão, energia, sorte extraordinárias e a riqueza que vem com isso?
A resposta de Musk é: administre pessoalmente seis empresas para preservar o fogo da civilização humana e lutar contra a perigosa IA.
Na quarta-feira, o biógrafo de Musk, Walter Issacson, publicou alguns capítulos de sua próxima biografia na revista "Time", descrevendo o medo e a preocupação consistentes de Musk com a IA por mais de uma década, bem como seu pensamento sobre o destino futuro da humanidade, Wall Street Insights Key foram feitos trechos.
Medo da chegada da IA
O medo de Musk em relação à IA originou-se de uma reunião com o pesquisador de IA Demis Hassabis em 2012.
Naquela época, Musk o convidou para visitar a fábrica da SpaceX e explicou que a razão pela qual construiu um foguete capaz de ir a Marte foi para preservar o fogo da civilização humana em caso de um dia do juízo final, como uma guerra nuclear e o impacto de um asteróide.
Demis o lembrou que mais um item deveria ser adicionado à lista do Juízo Final - a IA, a inteligência das máquinas pode ultrapassar os humanos no futuro, e pode até querer eliminar os humanos.
Musk pensou por um minuto, depois decidiu que Demis estava certo e imediatamente investiu US$ 5 milhões na DeepMind para “monitorar o que ela estava fazendo”.
Algumas semanas depois dessa conversa, Musk apresentou DeepMind a Larry Page, um velho amigo que o conhece há mais de dez anos e cofundador do Google, e muitas vezes conversava com Page tarde da noite sobre a ameaça da IA aos humanos, mas o último zombou disso.
Em 2013, na festa de aniversário de Musk, eles travaram um acalorado debate. Musk acredita que se não forem tomadas medidas imediatas e não forem estabelecidas salvaguardas, o rápido desenvolvimento da IA poderá extinguir a humanidade.
Mas Page não se importou nem um pouco. Ele perguntou: se um dia as máquinas ultrapassarem os humanos em inteligência ou mesmo em consciência, o que isso importa? Este é simplesmente o próximo estágio de evolução. Ele acusou Musk de ser um “especista” que favorece sua própria espécie.
Musk também admitiu generosamente:
OpenAI foi fundada para verificar e equilibrar o Google
No final daquele ano, a notícia de que o Google, sob a liderança de Page, planejava adquirir a DeepMind chegou aos ouvidos de Musk, que estava preocupado com o que aconteceria se a IA poderosa fosse dominada por pessoas como Page, que não se importavam com os seres humanos.
Então, ele trouxe seu amigo e cofundador do PayPal, Luke Nosek, tentando arrecadar dinheiro para impedir o negócio, mas falhou, e o Google concluiu a aquisição em janeiro de 2014. Em resposta às preocupações de Musk, Page concordou em criar um “comitê de segurança”, com Musk e o já mencionado especialista em IA Demis como membros, e outros membros, incluindo o presidente do Google, Eric Schmidt, e o cofundador do LinkedIn, Reid Hoffman.
Porém, após participar da primeira e única reunião do “comitê de segurança”, Musk ficou ainda mais desconfiado de Page e do Google, acreditando que as pessoas do comitê estavam falando bobagens. Ele começou a organizar encontros intensivos para discutir como combater o Google e promover a segurança da IA.
Em maio de 2015, ele também teve uma longa conversa cara a cara com o então presidente dos EUA, Obama, explicando os riscos da IA e propondo que o presidente regulamentasse a IA. Mas Obama não adoptou a sua proposta.
Então, o fundador da OpenAI, Sam Altman, apareceu nesta época. Musk e ele acreditam que um grande número de sistemas de IA concorrentes com freios e contrapesos é mais seguro do que ter a IA controlada por algumas grandes empresas. Em um jantar, os dois se deram bem e decidiram co-fundar um laboratório de pesquisa de inteligência artificial sem fins lucrativos e batizá-lo de OpenAI.
No entanto, em 2018, como a Tesla também estava a desenvolver IA para conduzir o seu software de piloto automático, a fim de evitar potenciais conflitos de interesses, Musk não pôde continuar na OpenAI. Ele tentou persuadir Altman a fundir a OpenAI com a Tesla, mas foi rejeitado; além disso, ele também estava muito insatisfeito com a comercialização gradual da OpenAI, então finalmente rompeu com a equipe da OpenAI.
Olhando para o cenário atual de negócios de Musk, cada empresa representa sua solução para a crise da IA: a SpaceX pode construir a Arca de Noé para preservar o fogo da civilização; a Neuralink, uma empresa de interface cérebro-computador, pode tornar os corpos humanos mais flexíveis. Tesla recebe e processa 160 bilhões de quadros de vídeo de câmeras de carros todos os dias. Esses dados do mundo real podem ser usados para treinamento de "inteligência artificial geral (AGI)", e o robô humanóide Optimus se tornará o portador físico da AGI. Todos os tipos de recursos podem ser integrados em sua nova empresa – xAI.
No primeiro semestre deste ano, a onda de IA liderada pela OpenAI não apenas roubou os holofotes de Musk, mas também o deixou mais preocupado com a possibilidade de esses sistemas de IA controlados por grandes empresas espalharem o "vírus da cultura do despertar" e envenenar as mentes dos americanos. adolescentes; ele também Há preocupações de que os atuais sistemas de IA que podem aprender por conta própria possam se tornar hostis aos humanos e que robôs treinados com dados do Twitter possam produzir informações falsas ou fraudulentas.
Ele estava ansioso para entrar em ação, ressentido por ter fundado e financiado a OpenAI, mas agora estava sendo marginalizado. A IA é a maior tempestade que se forma. Ninguém gosta mais de tempestades do que Musk.
Portanto, no primeiro semestre do ano, Musk lançou um ataque feroz à OpenAI e a Altman pessoalmente. Altman podia entender a agressividade de Musk. Em uma entrevista, ele disse que, embora Musk se comportasse como um idiota, ele acreditava que era verdade. Alguns são muito preocupados com o campo da IA e preocupados com o futuro da humanidade.
Musk acredita que está na posição de liderança no caminho AGI.
Embora eu não tenha conseguido acompanhar a tendência e construir um chatbot de IA quando a onda de IA estava no auge. Mas Musk acredita que ainda está à frente na corrida para a AGI.
Ele acredita que os chatbots que só podem gerar texto serão de uso limitado, com ênfase em bots físicos e inteligentes. Por um lado, a Tesla já possui tecnologia avançada de condução autónoma e o robô humanóide Optimus; por outro lado, os tweets de centenas de milhões de utilizadores no Twitter e as câmaras no corpo de Tesla também fornecem dados suficientes para o desenvolvimento da AGI.
Portanto, ele está confiante de que pode criar AGI mais rápido que OpenAI:
Até recentemente, Musk ainda pensava em como reduzir os riscos da IA para que a consciência humana pudesse ser transmitida de geração em geração.
Ele acredita que a inteligência humana está se estabilizando e que há cada vez menos recém-nascidos. Ao mesmo tempo, a inteligência computacional está crescendo exponencialmente, como a “Lei de Moore sobre esteróides”. A capacidade intelectual biológica empalidece em comparação com a capacidade intelectual digital.
Musk acredita que o “momento de singularidade”, quando a IA avançar a uma velocidade descontrolada e deixar os humanos para trás, chegará mais cedo do que pensamos.