DetectGPT: La nueva herramienta para que profesores identifiquen textos creados con ChatGPT

Investigaciones se están enfocando en el desarrollo de herramientas que identifican si un texto es generado por inteligencia artificial.

La fama de ChatGPT es indiscutible y su gran viralización ha abierto las puertas a estudiantes que emplean esta herramienta basada en inteligencia artificial para algo más que entretenerse. Y es que, muchos de ellos están sirviéndose de ella para crear trabajos enteros y plagiar contenido.

Así funciona DetectGPT: Tiemblan los estudiantes

Un equipo de estudiantes de doctorado e informáticos ha lanzado una nueva herramienta llamada DetectGPT que pretende identificar si un determinado texto ha sido creado por una inteligencia artificial y parece que funciona bastante bien.

Utilizando un método estadístico conocido como “curvatura de probabilidad”, los investigadores han encontrado un método para detectar texto generado por IA. Al parecer, este no requiere la marca de agua del texto generado ni siquiera una comparación del texto real frente a texto generado, sino que utiliza la estadística para determinar la probabilidad de generación del texto.

En cuanto a los resultado, cuidado, porque fue capaz de encontrar el texto generado por IA 14 de cada 15 veces. Incluso detectó el texto generado por la IA cuando estaba parafraseado por humanos en hasta un 25 % del texto.

Gracias a esta idea, el equipo ha desarrollado un nuevo barómetro para determinar si un texto ha sido generado por una máquina, sin necesidad de entrenar a una IA ni de recopilar grandes conjuntos de datos con los que comparar el texto.

Y es que, el texto creado por una IA tiene una “curvatura negativa” de la función de probabilidad logarítmica, mientras que el texto generado por humanos tiende a tener una “curvatura positiva” en el mismo parámetro. En el siguiente artículo se detallan todos los criterios para determinar la eficacia del método de detección.

Desde luego, la aparición de métodos para averiguar si un contenido escrito está generado por IA, o en este caso por ChatGPT, es un paso importante para prevenir un mundo de auténticos incultos que, en vez de servirse de este tipo de herramientas como soporte, las emplean para esforzarse lo mínimo.

Fuente: Computerhoy.com