Introducción
En la era de los modelos de lenguaje como ChatGPT, surge una pregunta crucial: ¿cómo saber si un texto ha sido escrito por una persona o por una inteligencia artificial? Los llamados detectores de IA intentan responder a esa cuestión analizando patrones estadísticos que caracterizan la producción de máquinas. Sin embargo, su fiabilidad no es absoluta y su funcionamiento está basado en conceptos como la perplexidad y la frecuencia de ciertas palabras.
¿Qué es la perplexidad?
Los modelos de lenguaje predicen la palabra más probable a continuación de una secuencia dada. Cuando la predicción es muy segura, la cadena resultante es altamente predecible y, por tanto, presenta una baja perplexidad. En contraste, los textos humanos suelen ser más erráticos: cometen errores, cambian de idea a mitad de frase o introducen giros inesperados. Esa variabilidad eleva la perplexidad y, en teoría, permite distinguir la autoría humana de la artificial.
Palabras típicas de la IA
Otro indicador que utilizan los detectores son los vocablos que aparecen con mayor frecuencia en los escritos generados por IA. Por ejemplo, en publicaciones científicas en inglés entre 2022 y 2024 se observó un aumento notable del uso de términos como "delve" y "underscore". No significa que todo autor que emplee esas palabras haya recurrido a ChatGPT, pero la tendencia estadística se vuelve visible cuando se analizan millones de documentos.
Limitaciones de los detectores
Aunque los algoritmos pueden ofrecer pistas, nunca constituyen una prueba concluyente. Un humano puede escribir de forma muy predecible, mientras que una IA puede ser instruida para producir textos más creativos o menos estructurados. Además, los propios detectores pueden ser engañados mediante técnicas de "adversarial prompting" que alteran deliberadamente el estilo del modelo.
Impacto en el lenguaje
La interacción constante entre IA y usuarios está modificando nuestro propio uso del lenguaje. Al popularizarse ciertas construcciones y vocablos, la IA influye en la forma en que redactamos, lo que a su vez retroalimenta a los modelos que aprenden de esos textos. Este ciclo podría, a largo plazo, afectar incluso la manera en que pensamos y estructuramos ideas.
Conclusión
Los detectores de IA son herramientas útiles para identificar indicios de generación automática, pero deben emplearse con cautela y siempre complementados con análisis humano. La evolución de los modelos de lenguaje y su integración en la vida cotidiana hacen que la frontera entre lo escrito por personas y por máquinas sea cada vez más difusa.
Source: https://scientias.nl/is-een-tekst-geschreven-door-ai-zo-proberen-ai-detectoren-dat-te-achterhalen/