Você ainda está lamentando as mudanças revolucionárias trazidas pela IA generativa? Lamentar o poder do GPT-4? Ainda adivinhando quais novos recursos o GPT-5 terá? A OpenAI viu mais longe e já está em ação.
Fonte da imagem: Gerada por Unbounded AI
A equipe da OpenAI lançou seu último movimento ontem, formando uma nova equipe, Superalignment, co-liderada por Ilya Sutskever (co-fundador e cientista-chefe da OpenAI) e Jan Leike (líder de alinhamento). Esta é uma equipe sobre superinteligência, com foco na pesquisa de alinhamento de superinteligência. A OpenAI afirma que gastará 20% de seus recursos de computação na solução de problemas de alinhamento superinteligentes nos próximos quatro anos, o que é suficiente para mostrar a importância da OpenAI.
O que é Superinteligência?
Superinteligência refere-se a um sistema inteligente que supera a inteligência humana. Não é apenas um simples programa de computador, mas um corpo inteligente, que possui as características de capacidade cognitiva, capacidade emocional, autoconsciência e intenção, e pode pensar, julgar e tomar decisões de forma independente -fazer pode até superar a inteligência humana até certo ponto. O conceito de superinteligência é relativo ao atual sistema de inteligência artificial, referindo-se a uma inteligência artificial mais avançada que pode ser aplicada em uma ampla gama de campos e ambientes complexos.
Atualmente, a superinteligência ainda é um conceito teórico e ainda não foi realizado. Alcançar a superinteligência requer resolver muitos problemas técnicos, incluindo desafios em aprendizado de máquina, processamento de linguagem natural, visão computacional, raciocínio e tomada de decisão. Além disso, o surgimento da superinteligência também trará muitas questões éticas, sociais e políticas, como controle de superinteligência, questões de segurança e privacidade.
A superinteligência é um conceito empolgante e atraente porque pode gerar várias aplicações importantes em vários campos, como diagnóstico médico, desenvolvimento de novos medicamentos, transporte inteligente, produção automatizada e defesa de segurança, etc. Ao mesmo tempo, a superinteligência também apresenta alguns riscos e desafios: se ficar fora de controle, pode representar uma grande ameaça para os seres humanos.
Alcançar a superinteligência requer resolver muitos problemas técnicos. Uma das questões mais importantes é como permitir que os sistemas inteligentes tenham a capacidade de aprender de forma independente, ou seja, aprender continuamente novos conhecimentos e habilidades a partir de dados e experiências, de modo a melhorar continuamente seu nível de inteligência. Ao mesmo tempo, a superinteligência também precisa ter fortes capacidades de raciocínio, tomada de decisão e inovação, além de ser capaz de pensar de forma independente e resolver vários problemas complexos.
"Conforme abordamos a superinteligência", precisamos pensar mais sobre os riscos existenciais da IA. — Zuckerberg
Superinteligência será uma realidade daqui a dez anos? Pelo menos OpenAI pensa assim
A OpenAI acredita que a superinteligência será a tecnologia de maior impacto já inventada, ajudando-nos a resolver muitos dos problemas mais importantes do mundo. Mas o imenso poder de uma superinteligência também pode ser muito perigoso e levar ao enfraquecimento da humanidade, ou mesmo à sua extinção. Embora a **superinteligência possa parecer remota agora, acreditamos que pode ser daqui a uma década. **
###
Como resolver os riscos da superinteligência?
Embora a superinteligência tenha uma enorme energia, os riscos também são enormes. A OpenAI disse que gerenciar esses riscos exigirá novas instituições de governança e abordará o problema da coordenação da superinteligência, ou seja, como garantir que os sistemas de inteligência artificial sejam muito mais inteligentes que os humanos, mas também sigam as intenções humanas?
A OpenAI não deu uma resposta. Eles acreditam que os humanos não podem supervisionar de forma confiável os sistemas de inteligência artificial que são mais inteligentes que os humanos. A tecnologia de alinhamento atual não pode ser estendida à superinteligência, então novos avanços científicos e tecnológicos precisam ser buscados.
No entanto, o caminho da OpenAI para resolver o problema de alinhamento da superinteligência foi claro, ou seja, estabelecer um pesquisador de alinhamento automático aproximadamente no nível humano, para melhorar a capacidade dos sistemas de inteligência artificial de aprender com o feedback humano e auxiliar os humanos na avaliação da inteligência artificial. O objetivo é construir um sistema de IA alinhado o suficiente para nos ajudar a resolver todos os outros problemas de alinhamento.
No ano passado, a OpenAI publicou uma postagem no blog que esclarece sua linha de pesquisa sobre alinhamento:
Superalinhamento da nova equipe da OpenAI
A equipe será formada pelos principais pesquisadores e engenheiros de aprendizado de máquina, com o objetivo de resolver os principais desafios técnicos do alinhamento de superinteligência em quatro anos, desde o desenvolvimento de novos métodos até a expansão e a implantação. O cientista-chefe da OpenAI, Ilya Sutskever, fez do problema de alinhamento da superinteligência um foco central de pesquisa. O alinhamento da superinteligência é fundamentalmente um problema de aprendizado de máquina, e a OpenAI está recrutando excelentes especialistas em aprendizado de máquina.
Referências:
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
As últimas tendências da OpenAI: Forme uma nova equipe, aposte na superinteligência e incline 20% dos recursos de computação
Você ainda está lamentando as mudanças revolucionárias trazidas pela IA generativa? Lamentar o poder do GPT-4? Ainda adivinhando quais novos recursos o GPT-5 terá? A OpenAI viu mais longe e já está em ação.
A equipe da OpenAI lançou seu último movimento ontem, formando uma nova equipe, Superalignment, co-liderada por Ilya Sutskever (co-fundador e cientista-chefe da OpenAI) e Jan Leike (líder de alinhamento). Esta é uma equipe sobre superinteligência, com foco na pesquisa de alinhamento de superinteligência. A OpenAI afirma que gastará 20% de seus recursos de computação na solução de problemas de alinhamento superinteligentes nos próximos quatro anos, o que é suficiente para mostrar a importância da OpenAI.
O que é Superinteligência?
Superinteligência refere-se a um sistema inteligente que supera a inteligência humana. Não é apenas um simples programa de computador, mas um corpo inteligente, que possui as características de capacidade cognitiva, capacidade emocional, autoconsciência e intenção, e pode pensar, julgar e tomar decisões de forma independente -fazer pode até superar a inteligência humana até certo ponto. O conceito de superinteligência é relativo ao atual sistema de inteligência artificial, referindo-se a uma inteligência artificial mais avançada que pode ser aplicada em uma ampla gama de campos e ambientes complexos.
Atualmente, a superinteligência ainda é um conceito teórico e ainda não foi realizado. Alcançar a superinteligência requer resolver muitos problemas técnicos, incluindo desafios em aprendizado de máquina, processamento de linguagem natural, visão computacional, raciocínio e tomada de decisão. Além disso, o surgimento da superinteligência também trará muitas questões éticas, sociais e políticas, como controle de superinteligência, questões de segurança e privacidade.
A superinteligência é um conceito empolgante e atraente porque pode gerar várias aplicações importantes em vários campos, como diagnóstico médico, desenvolvimento de novos medicamentos, transporte inteligente, produção automatizada e defesa de segurança, etc. Ao mesmo tempo, a superinteligência também apresenta alguns riscos e desafios: se ficar fora de controle, pode representar uma grande ameaça para os seres humanos.
Alcançar a superinteligência requer resolver muitos problemas técnicos. Uma das questões mais importantes é como permitir que os sistemas inteligentes tenham a capacidade de aprender de forma independente, ou seja, aprender continuamente novos conhecimentos e habilidades a partir de dados e experiências, de modo a melhorar continuamente seu nível de inteligência. Ao mesmo tempo, a superinteligência também precisa ter fortes capacidades de raciocínio, tomada de decisão e inovação, além de ser capaz de pensar de forma independente e resolver vários problemas complexos.
Superinteligência será uma realidade daqui a dez anos? Pelo menos OpenAI pensa assim
A OpenAI acredita que a superinteligência será a tecnologia de maior impacto já inventada, ajudando-nos a resolver muitos dos problemas mais importantes do mundo. Mas o imenso poder de uma superinteligência também pode ser muito perigoso e levar ao enfraquecimento da humanidade, ou mesmo à sua extinção. Embora a **superinteligência possa parecer remota agora, acreditamos que pode ser daqui a uma década. **
Como resolver os riscos da superinteligência?
Embora a superinteligência tenha uma enorme energia, os riscos também são enormes. A OpenAI disse que gerenciar esses riscos exigirá novas instituições de governança e abordará o problema da coordenação da superinteligência, ou seja, como garantir que os sistemas de inteligência artificial sejam muito mais inteligentes que os humanos, mas também sigam as intenções humanas?
A OpenAI não deu uma resposta. Eles acreditam que os humanos não podem supervisionar de forma confiável os sistemas de inteligência artificial que são mais inteligentes que os humanos. A tecnologia de alinhamento atual não pode ser estendida à superinteligência, então novos avanços científicos e tecnológicos precisam ser buscados.
No entanto, o caminho da OpenAI para resolver o problema de alinhamento da superinteligência foi claro, ou seja, estabelecer um pesquisador de alinhamento automático aproximadamente no nível humano, para melhorar a capacidade dos sistemas de inteligência artificial de aprender com o feedback humano e auxiliar os humanos na avaliação da inteligência artificial. O objetivo é construir um sistema de IA alinhado o suficiente para nos ajudar a resolver todos os outros problemas de alinhamento.
No ano passado, a OpenAI publicou uma postagem no blog que esclarece sua linha de pesquisa sobre alinhamento:
Superalinhamento da nova equipe da OpenAI
A equipe será formada pelos principais pesquisadores e engenheiros de aprendizado de máquina, com o objetivo de resolver os principais desafios técnicos do alinhamento de superinteligência em quatro anos, desde o desenvolvimento de novos métodos até a expansão e a implantação. O cientista-chefe da OpenAI, Ilya Sutskever, fez do problema de alinhamento da superinteligência um foco central de pesquisa. O alinhamento da superinteligência é fundamentalmente um problema de aprendizado de máquina, e a OpenAI está recrutando excelentes especialistas em aprendizado de máquina. Referências: