Ana Mª Fernández

Doctora en Lingüística Computacional

«La IA tiene rasgos lingüísticos que se pueden identificar»

– ¿Cómo surge la necesidad de crear esta herramienta?

– Nace de una situación real. Nosotros tenemos una asesoría lingüística y en 2020 una agencia de detectives nos pidió identificar la autoría de cientos de correos que una empresa había recibido con amenazas graves. Cuando los recibimos sospechamos que los había generado un robot, pero con tal cantidad éramos incapaces de resolver nosotros mismos el análisis. A raíz de esto nos planteamos la hipótesis de que las máquinas también tienen rasgos lingüísticos definitorios.

– Al conjunto de estos rasgos lo llama 'idiolecto'. ¿Por qué es tan importante?

– Es nuestra huella dactilar cuando escribimos, diferente y única para cada persona. Puede encontrarse a nivel léxico, morfológico, sintáctico... Los grandes modelos generativos de lenguaje tienen muchas marcas distintivas de su autoría, por ejemplo, utilizan muchos más adjetivos y gerundios que los humanos. Nosotros tratamos a la máquina como si fuera un individuo, 'Robot Talks' aplica modelos cuantitativos y cualitativos lingüísticos a textos dudosos para dar con el idiolecto de la inteligencia artificial.

– ¿El objetivo es, entonces, dar con clasificadores aplicables a todos los textos de autoría humana cuestionable?

– Claro, la máquina, al final, crea patrones en base a los ejemplos que ya han sido introducidos en su base de datos. Si somos capaces de capturar los patrones seremos capaces, no solo de identificar los textos escritos por IA, sobre todo, de evidenciar y justificar. Hasta ahora si un profesor sospecha que un TFG ha sido hecho por ChatGPT puede denunciarlo, pero no demostrarlo. La herramienta en la que trabajamos podría aportar evidencias.

– ¿En qué ámbitos espera que se aplique 'Robot Talks'?

– Los fines son muy variados. Más allá de lo académico se puede aplicar a campañas de desinformación en el ámbito político, a casos de extorsión, a campañas contra la reputación de una persona... Los humanos aceptamos sin dudar textos generados por la IA porque tienen una calidad gramatical y de contenido enorme. Nunca habíamos visto un sistema que escribiendo llegase tan lejos.

– ¿Hay algún tipo de escritura que se le de mal a la IA?

– Hay un punto de vista que ya empieza a flaquear que es el discursivo pragmático. Todavía se puede distinguir una gran novela de un escrito de la máquina, que todavía no ha alcanzado ese nivel de razonamiento.

– ¿Quién va a poder hacer uso de 'Robot Talks'?

– En principio haremos públicas bastantes herramientas. Sin embargo, han sido creadas para los especialistas de la lengua. Se trabaja con un panel de mandos desde el que buscas las evidencias, la huella dactilar de la IA. Hay que tener conocimientos lingüísticos para poder interpretarlo. Desafortunadamente no vamos a llegar al nivel de usabilidad general.

– Es física y enseña en la facultad de letras...

– Es esencial que los lingüistas aprendan estadística, técnicas de aprendizaje automático, de inteligencia artificial... Son humanistas con un perfil mixto.