ChatGPT elimina la herramienta de detección oficial, admite que el texto AI no se puede identificar

Fuente: "Qubit" (ID: QbitAI), autor: Mengchen

Sin un anuncio, OpenAI silenciosamente cerró la herramienta de detección de texto de IA y la página directamente 404.

No hubo una respuesta oficial a esto, y pasaron unos días antes de que alguien encontrara una breve descripción escondida en la página del blog de la herramienta lanzada hace medio año.

...El detector de IA ya no está disponible debido a su baja precisión... Estamos trabajando en técnicas de detección de texto más eficientes y estamos comprometidos con el desarrollo de técnicas de detección de audio y visuales.

Muchos internautas no están satisfechos con el comportamiento de CloseAIOpenAI eliminando un producto sin emitir un anuncio.

Pero hay mucha gente que está de acuerdo con apagar el propio detector de IA, sobre todo el colectivo de estudiantes.

Demasiados profesores creen que esto es efectivo, y una gran cantidad de estudiantes agraviados hacen trampa con la IA, que se ha convertido en una cacería de brujas.

La tasa de precisión es casi la misma que adivinar

¿Qué tan baja es la precisión de esta herramienta de prueba oficial?

Los datos proporcionados por el propio OpenAI solo pueden identificar correctamente el 26 % de los textos generados por IA y el 9 % incorrecto de los textos escritos por humanos.

Cuando se lanzó por primera vez en enero, los internautas lo resumieron como "casi como adivinar".

Además, algunas personas han realizado experimentos y han encontrado que varias herramientas de detección en el mercado juzgarán que los textos históricos como la Biblia y la Constitución de los EE. UU. pueden ser escritos por IA. Las figuras históricas que no pueden escribir estos contenidos son viajeros en el tiempo, ¿verdad?

Pero todavía hay muchos profesores que intentan comprobar el trabajo de los alumnos con varios métodos de detección.

En uno de los casos más famosos, un profesor de la Universidad Texas A&M casi consideró que la mitad de su clase llegaba tarde.

La última tendencia es que los maestros pidan a los estudiantes que escriban tareas en documentos en línea y verifiquen los registros de edición, pero los estudiantes inteligentes también pueden encontrar formas de evitarlo.

Finalmente, en el campo de la educación, algunas personas han sugerido que las tareas/trabajos de curso grandes pueden convertirse en historia, y los exámenes a libro cerrado o los exámenes orales se convertirán en la corriente principal.

Los métodos de detección actuales se pueden eludir

Los internautas señalaron que es contradictorio que OpenAI desarrolle herramientas de generación y detección al mismo tiempo.

Si a un lado le va bien, al otro no le va bien y puede haber un conflicto de intereses.

Sin embargo, los métodos de detección desarrollados por terceros no son fiables.

El primero conocido como "némesis de ChatGPT" es GPTZero desarrollado por el estudiante de Princeton Edward Tian, que utiliza la complejidad y los cambios en la longitud y la longitud de las oraciones para medir si un artículo es generado por IA.

En ese momento, el proyecto GPTZero fue creado especialmente para educadores, y los maestros podían incluir la tarea de toda la clase para probarla.

Pero en julio, el autor admitió que había renunciado a la dirección de detectar las trampas de los estudiantes. Está previsto que la próxima versión de GPTZero ya no detecte si el texto es generado por IA, sino que resalte la parte más humana.

Otro método de detección que ha recibido mucha atención es el método de marca de agua desarrollado por la Universidad de Maryland, que requiere modelos grandes para ocultar marcas al generar texto y utilizar métodos estadísticos para identificarlas.

Pero la forma de eludirlo también es muy simple. Por ejemplo, alguien ha desarrollado una herramienta simple de reemplazo de sinónimos que puede destruir características estadísticas.

Algunas personas incluso comenzaron a preguntarse por qué la gente tiene que distinguir esto.

Al igual que si los números son calculados por humanos o completados por computadoras, a nadie le ha importado durante mucho tiempo.

¿A nadie le importa si el manuscrito del orador está escrito por él mismo o por el secretario?

Investigación del comportamiento humano, utilizando la IA como tema

La incapacidad de distinguir entre la IA y el contenido humano no parece ser del todo mala.

Ya existen experimentos psicológicos que utilizan IA en lugar de sujetos humanos para acelerar la investigación.

Un artículo del subdiario Cell señaló que en escenarios experimentales bien diseñados, las respuestas de ChatGPT se correlacionaron con las respuestas de alrededor del 95 % de los participantes humanos.

Y los sujetos de la máquina no se cansan, lo que permite a los científicos recopilar datos y probar teorías sobre el comportamiento humano a una velocidad sin precedentes.

En un artículo de opinión reciente en la revista principal de Science, Igor Grossman, profesor de psicología en la Universidad de Waterloo, cree:

"La IA podría cambiar las reglas del juego para la investigación en ciencias sociales, donde la gestión cuidadosa del sesgo y la fidelidad de los datos son clave".

### Link de referencia

[1]

[2]

[3]

[4]

[5]

[6]