Se a inteligência artificial ganhasse consciência – como os cientistas poderiam descobrir

Autora: Mariana Lenharo, Compiladora: Coração do Metaverso

A ideia de inteligência artificial gerar consciência há muito faz parte da ficção científica, lembrando o supercomputador que virou vilão HAL 9000 no filme de 1968 2001: Uma Odisséia no Espaço. Com o rápido desenvolvimento da inteligência artificial, esta possibilidade está a tornar-se menos bizarra, sendo até reconhecida por figuras importantes da inteligência artificial.

No ano passado, Ilya Sutskever, cientista-chefe da OpenAI, empresa por trás do chatbot ChatGPT, tuitou que algumas das redes de IA mais avançadas podem se tornar “ligeiramente conscientes”.

Muitos pesquisadores dizem que os sistemas de inteligência artificial ainda não estão conscientes. Mas a velocidade a que a IA está a evoluir faz com que ponderem: como sabemos se uma IA está consciente?

Para responder a esta pergunta, uma equipe de 19 neurocientistas, filósofos e cientistas da computação elaborou uma lista de critérios que, se atendidos, indicariam que um sistema tem uma alta probabilidade de ser consciente. Eles publicaram a orientação provisória, que ainda não foi revisada por pares, no repositório de pré-impressão arXiv no início desta semana.

O coautor Robert Long, filósofo do Center for AI Safety em São Francisco, Califórnia, disse que eles fizeram o trabalho porque “parece haver uma falta real de pesquisas detalhadas, empíricas e bem pensadas sobre a consciência da IA”. ." discutir".

A equipe de pesquisa afirma que a incapacidade de identificar se um sistema de IA é consciente pode ter implicações éticas significativas. Megan Peters, neurocientista e coautora do estudo, disse que se algo fosse rotulado como “consciente”, “isso teria que mudar drasticamente a forma como nós, como humanos, o abordamos”.

Long acrescentou que, tanto quanto ele sabe, as empresas que constroem sistemas avançados de IA não fizeram o suficiente para avaliar o conhecimento desses modelos e planear em conformidade. Ele disse: “Embora eu tenha ouvido alguns discursos dos chefes dos principais laboratórios, eles disseram que a consciência da inteligência artificial ou a percepção da inteligência artificial é algo em que vale a pena pensar, mas não acho que seja suficiente”.

A Nature contatou duas das principais empresas de tecnologia que impulsionam o desenvolvimento de IA – Microsoft e Google. Um porta-voz da Microsoft disse que o núcleo do desenvolvimento da inteligência artificial da empresa é ajudar os humanos a serem mais produtivos de forma responsável, e não replicar a inteligência humana.

O porta-voz disse que desde o lançamento do GPT-4, a última versão do lançamento público do ChatGPT, ficou claro que “nossa busca para realizar todo o potencial da inteligência artificial para o benefício da sociedade como um todo requer novas formas de avaliar estes Capacidades artificiais do modelo inteligente". O Google não respondeu.

01. O que é consciência?

Um dos desafios ao estudar a consciência da IA é definir o que é consciência. Para efeitos do relatório, os pesquisadores concentraram-se na “consciência fenomenal”, ou experiência subjetiva, disse Peters. Ou seja, os sentidos que existem em humanos, animais ou sistemas de inteligência artificial (se for comprovado que um deles está consciente).

Existem muitas teorias baseadas na neurociência que descrevem a base biológica da consciência. Mas não há consenso sobre qual é o “correto”. Portanto, os autores empregam uma série de teorias para criar sua estrutura. O pensamento deles é que se a funcionalidade de um sistema de IA corresponder a vários aspectos dessas teorias, então ele terá uma chance maior de ser consciente.

Eles argumentam que esta forma de avaliar a consciência é melhor do que simplesmente realizar testes comportamentais, como perguntar ao ChatGPT se ele está consciente ou desafiá-lo e observar suas respostas. Porque os sistemas de IA fizeram um progresso incrível na imitação dos humanos.

O neurocientista Anil Seth, diretor do Centro para a Ciência da Consciência da Universidade de Sussex, no Reino Unido, acredita que a abordagem teoricamente rigorosa da equipe é boa. No entanto, diz ele, “são necessárias teorias de consciência mais precisas e bem testadas”.

02. Uma abordagem intensiva em teoria

Para formular os seus critérios, os autores postulam que a consciência está relacionada com a forma como os sistemas processam a informação, sejam eles feitos de neurónios, chips de computador ou outros materiais. Essa abordagem é conhecida como funcionalismo computacional. Eles também levantaram a hipótese de que teorias da consciência baseadas na neurociência, derivadas de exames cerebrais e outros estudos técnicos de humanos e animais, poderiam ser aplicadas à inteligência artificial.

Com base nessas suposições, a equipe selecionou seis dessas teorias, das quais extraiu uma série de indicadores de consciência.

Uma delas é a teoria do espaço de trabalho global, que afirma que os humanos e outros animais utilizam muitos sistemas especializados (também chamados módulos) para realizar tarefas cognitivas, como visão e audição. Esses módulos funcionam de forma independente, mas em paralelo, e se integram em um único sistema para compartilhar informações.

De acordo com Long, “observando a arquitetura do sistema e a forma como a informação flui dentro dele”, pode-se avaliar se um determinado sistema de IA exibe os indicadores derivados da teoria.

Seth ficou impressionado com a proposta da equipe. "É muito bem pensado, não é bombástico e afirma claramente as suas suposições", disse ele. Embora eu discorde de algumas das suposições, está tudo bem porque há uma chance de eu estar errado. "

Os autores dizem que o artigo está longe de ser conclusivo sobre como avaliar sistemas de IA conscientes e esperam que outros investigadores ajudem a refinar a sua metodologia. Mas esses padrões já podem ser aplicados aos sistemas de inteligência artificial existentes.

Por exemplo, o relatório avalia modelos linguísticos de grande escala, como o ChatGPT, e conclui que se pode dizer que tais sistemas têm alguns indicadores de consciência relacionados com a teoria global do espaço de trabalho. Ainda assim, o trabalho não sugere que quaisquer sistemas de IA existentes sejam fortes candidatos à consciência, pelo menos não ainda.