ChatGPT remove a ferramenta de detecção oficial, admite que o texto AI não pode ser identificado

Fonte: "Qubit" (ID: QbitAI), autor: Mengchen

Sem um anúncio, a OpenAI silenciosamente fechou a ferramenta de detecção de texto AI e a página diretamente 404.

Não houve resposta oficial a isso e demorou alguns dias até que alguém encontrasse uma breve descrição escondida na página do blog da ferramenta lançada há meio ano.

...detector AI não está mais disponível devido à baixa precisão... Estamos trabalhando em técnicas de detecção de texto mais eficientes e estamos empenhados em desenvolver técnicas de detecção de áudio e visual.

Muitos internautas estão insatisfeitos com o comportamento de CloseAIOpenAI matando um produto sem emitir um anúncio.

Mas há muitas pessoas que concordam em desligar o próprio detector de IA, principalmente o grupo de alunos.

Muitos professores acreditam que isso é eficaz, e um grande número de alunos injustiçados trapaceia com IA, que se tornou uma caça às bruxas.

A taxa de precisão é quase a mesma que adivinhar

Quão baixa é a precisão desta ferramenta de teste oficial?

Os dados fornecidos pelo próprio OpenAI só podem identificar corretamente 26% de textos gerados por IA e incorretos 9% de textos escritos por humanos.

Quando foi lançado pela primeira vez em janeiro, foi resumido pelos internautas como "quase como adivinhar".

Além disso, algumas pessoas fizeram experimentos e descobriram que várias ferramentas de detecção no mercado julgarão que textos históricos como a Bíblia e a Constituição dos EUA podem ser escritos por IA. As figuras históricas que não podem escrever esses conteúdos são viajantes do tempo, certo?

Mas ainda existem muitos professores que tentam verificar o trabalho dos alunos com vários métodos de detecção.

Em um dos casos mais famosos, um professor da Texas A&M University quase julgou que metade de sua turma estava atrasada.

A tendência mais recente é que os professores peçam aos alunos que escrevam tarefas em documentos on-line e verifiquem os registros de edição, mas alunos inteligentes também podem encontrar maneiras de contornar isso.

Finalmente, no campo da educação, algumas pessoas sugeriram que grandes tarefas / trabalhos de curso podem se tornar história, e exames de livro fechado ou exames orais se tornarão comuns.

Os métodos de detecção atuais podem ser contornados

Os internautas apontaram que é contraditório para a OpenAI desenvolver ferramentas de geração e detecção ao mesmo tempo.

Se um lado está indo bem, o outro lado não está indo bem e pode haver um conflito de interesses.

No entanto, os métodos de detecção desenvolvidos por terceiros não são confiáveis.

O mais antigo conhecido como "ChatGPT nemesis" é GPTZero desenvolvido pelo aluno de graduação de Princeton Edward Tian, que usa complexidade e mudanças no comprimento e no comprimento das frases para medir se um artigo é gerado por IA.

Naquela época, o projeto GPTZero foi criado especialmente para educadores, e os professores podiam lançar nele os deveres de casa de toda a turma para teste.

Mas em julho, o autor admitiu que havia desistido da direção de detectar a trapaça dos alunos.Planeja-se que a próxima versão do GPTZero não detecte mais se o texto é gerado por IA, mas destaque a parte mais humana.

Outro método de detecção que tem recebido muita atenção é o método de marca d'água desenvolvido pela Universidade de Maryland, que requer modelos grandes para ocultar marcas ao gerar texto e usar métodos estatísticos para identificá-las.

Mas a maneira de contornar isso também é muito simples, por exemplo, alguém desenvolveu uma ferramenta simples de substituição de sinônimos que pode destruir recursos estatísticos.

Algumas pessoas até começaram a se perguntar por que as pessoas precisam distinguir isso.

Assim como se os números são calculados por humanos ou completados por computadores, ninguém se importa há muito tempo.

Ninguém se importa se o manuscrito do orador é escrito por ele mesmo ou pelo secretário?

Pesquisa de comportamento humano, usando IA como assunto

A incapacidade de distinguir entre IA e conteúdo humano não parece ser tão ruim.

Já existem experimentos psicológicos que usam IA em vez de seres humanos para acelerar a pesquisa.

Um artigo no subjornal Cell apontou que, em cenários experimentais bem projetados, as respostas do ChatGPT foram correlacionadas com as respostas de cerca de 95% dos participantes humanos.

E os sujeitos da máquina não se cansam, permitindo que os cientistas coletem dados e testem teorias sobre o comportamento humano em uma velocidade sem precedentes.

Em um recente artigo de opinião no principal jornal da Science, Igor Grossman, professor de psicologia da Universidade de Waterloo, acredita:

“A IA pode ser um divisor de águas para a pesquisa em ciências sociais, onde o gerenciamento cuidadoso do viés e a fidelidade dos dados são fundamentais”.

### Link de referência

[1]

[2]

[3]

[4]

[5]

[6]