Estela Saquete: “El crecimiento de la información digital es muy positivo, pero conlleva amenazas en lo que denominamos ciberseguridad social”

Detectar noticias falsas y lenguaje nocivo: el reto de la inteligencia artificial en la era digital

La inteligencia artificial se ha convertido en una herramienta clave para detectar noticias falsas, lenguaje nocivo y contenido generado de manera artificial. Así lo explica Estela Saquete, directora del Departamento de Lenguajes y Sistemas Informáticos de la Universidad de Alicante y catedrática en esta institución. Según un estudio del Centro de Inteligencia Digital de la provincia de Alicante, impulsado conjuntamente por la Universidad de Alicante, la Diputación de Alicante y la Universidad Miguel Hernández de Elche, se analizan distintas tecnologías, como el procesamiento del lenguaje natural y el Deep Learning, con el objetivo de ayudar a las instituciones públicas a promover un entorno digital seguro.

Escucha la entrevista completa en este enlace:

“El crecimiento exponencial de la información digital es muy positivo, pero también conlleva amenazas en lo que denominamos ciberseguridad social”, explica Saquete en una entrevista en Terreta Radio. En este contexto, su equipo se ha centrado en tres grandes desafíos: la desinformación en noticias falsas, la detección de discursos de odio y la identificación de contenido generado por IA.

Inteligencia artificial contra la desinformación

Para detectar noticias falsas o incompletas, el proyecto estudia patrones lingüísticos característicos de estos contenidos. “Nos hemos centrado en analizar si una información es confiable o no, detectando ambigüedades, carga emocional excesiva o la ausencia de las cinco preguntas básicas del periodismo (qué, quién, cuándo, dónde y por qué)”, señala la experta.

El proyecto ha desarrollado un sistema de detección que aprende a diferenciar entre información fiable y engañosa. La inteligencia artificial también juega un papel clave en la detección de mensajes agresivos y discriminatorios. Para ello, el proyecto utiliza grandes bases de datos con  palabras ofensivas y casos reales extraídos de redes sociales. “Hemos entrenado los sistemas con expresiones reales para mejorar la detección de discursos de odio”, explica la investigadora.

En cuanto a la detección de textos generados por IA, el sistema desarrollado ha demostrado una gran precisión. “En una competición logramos un 98% de acierto al diferenciar textos generados por inteligencia artificial y por humanos”, destaca Saquete, subrayando el potencial de estas tecnologías para identificar contenido artificial.

El objetivo final es que esta herramienta ayude a periodistas y ciudadanos a discernir informaciones fiables de aquellas potencialmente manipuladas. “No estamos verificando la información con fuentes externas, sino analizando cómo está escrita”, puntualiza.

Colaboración con administraciones públicas

El proyecto ya ha finalizado su primera fase, pero el equipo de investigación busca ampliarlo con un proyecto de mayor envergadura, involucrando a ayuntamientos de distintos tamaños en la provincia de Alicante. “Es clave entender cómo distribuyen la información y adaptar las herramientas a sus necesidades específicas”, indica Saquete.

El problema de la desinformación es una carrera de fondo, en la que tanto quienes generan información falsa como quienes la combaten evolucionan rápidamente. “Ocurre como con los antivirus: cuando aparecen nuevos virus, hay que actualizar las defensas”, compara Saquete.

Aun así, Saquete es optimista y confía en el potencial de la inteligencia artificial para mantener el ritmo. “Los sistemas actuales son muy potentes y aprenden rápidamente con nuevos datos, lo que nos permite responder con eficacia a las nuevas formas de desinformación”.

La importancia del factor humano

Pese a los avances en IA, insiste en la importancia del papel humano. “Siempre es necesario el criterio de un experto que supervise la información y garantice su veracidad”. En este sentido, la colaboración entre inteligencia artificial y expertos se convierte en la mejor estrategia para combatir la desinformación.

Más allá de la detección de noticias falsas, los modelos de IA tienen aplicaciones en diversas disciplinas, como la Historia, la Literatura o el Derecho. “Estas herramientas pueden adaptarse a diferentes ámbitos mediante entrenamientos específicos con información confiable”, afirma Saquete.

La investigación en este campo continúa, con retos como la reducción de sesgos en lenguas minoritarias o la mejora en la precisión de los sistemas. “Estamos en un momento crucial, similar a la llegada de internet o la calculadora: la IA es una herramienta poderosa que debemos aprender a utilizar”, concluye.