La proliferación de libros publicados por personalidades sin autoría directa se ha vuelto una constante en la industria editorial. Aunque en el pasado esta práctica dependía de escritores ocultos, la inteligencia artificial (IA) ha transformado radicalmente el proceso, facilitando la creación de obras y sembrando dudas sobre la originalidad. Esto se ha evidenciado en casos como el de Thélyson Orélien, cuya novela superventas fue retirada de un concurso literario por sospechas de haber sido generada con IA, luego de que la aplicación Pangram, reconocida como estándar para detectar textos de IA, diera positivo.
Para entender si un texto es producto de una IA, es crucial comprender su mecanismo de escritura. La IA construye el contenido palabra por palabra, o más precisamente, por tokens (unidades que pueden ser palabras, fragmentos, puntuación o espacios). El proceso es algorítmico: la IA analiza el texto ya generado, calcula las probabilidades de las siguientes palabras posibles basándose en su frecuencia de aparición en los datos de entrenamiento, selecciona una al azar y la incorpora.
Esta metodología introduce patrones detectables. Las palabras más frecuentes en el entrenamiento de la IA tienen mayor probabilidad de ser elegidas, resultando en un vocabulario que tiende a la uniformidad. Además, la IA a menudo incorpora palabras de relleno como “realmente” o “simplemente”, o términos enfáticos como “notable” y “fundamental”. Su enfoque didáctico también la lleva a usar fórmulas recurrentes como “por lo tanto” o “en resumen”, y a cerrar argumentos con frases recapitulativas.
Estos rasgos estilísticos reducen la variabilidad del texto y dejan una huella que puede ser identificada mediante estilometría. Otra técnica es la perplejidad, que mide cuán sorprendente resulta una secuencia de texto para una IA generadora de lenguaje. Un detector evalúa la imprevisibilidad del texto: los textos humanos muestran mayor variabilidad en la perplejidad, mientras que los generados por IA tienden a ser más uniformes.
En la práctica, se ha intentado usar otras IAs, como ChatGPT, para la detección, pero sin buenos resultados. La estrategia más eficaz hoy es el empleo de modelos entrenados específicamente para la detección, como Pangram, que aprenden a identificar las características únicas de los textos generados por inteligencia artificial.
