La detección de los DeepFake y el rastreo de bulos a través del análisis del lenguaje ganan el reto “Tecnología contra la desinformación” de Digital Future Society

• Los proyectos destacan por su enfoque disruptivo y basan sus soluciones en la Inteligencia Artificial
• Las propuestas ganadoras, procedentes de España y Grecia, recibirán una aportación económica de hasta 40.000 € para desarrollar sus proyectos piloto

30 de septiembre de 2021

Barcelona, 30 de septiembre 2021. Digital Future Society premia a dos innovadoras soluciones tecnológicas destinadas a combatir la desinformación optimizando los procesos de verificación de la información. Las propuestas ganadoras permiten detección de imágenes manipuladas (DeepFake*) y el rastreo de falsas afirmaciones en diferentes plataformas de Internet a través del análisis del lenguaje. El reto Tech against Disinformation, una convocatoria de alcance internacional, ha recibido un total de 24 propuestas de diez países distintos que han abordo la problemática de la desinformación desde distintas perspectivas.

El proyecto español ganador, del grupo de investigación AI+DA (Applied Intelligence and Data Analysis) de la Universidad Politécnica de Madrid (UPM), combina el procesamiento de lenguaje natural (NLP) multilingüe basado en Inteligencia Artificial (IA), el análisis de redes sociales y el seguimiento de la información en las redes para la detección, seguimiento y análisis automatizado de afirmaciones falsas. Esta avanzada solución pretende implementar una arquitectura multilingüe que reconoce y compara textos en el español, inglés, catalán, vasco o gallego, entre otros. Esto permite contrastar información en diferentes idiomas sin perder detalles en la traducción y rastrear el recorrido de la información, para ver todo su historial, desde las primeras apariciones en redes sociales hasta su estado actual.

La otra solución galardonada es el DeepFake Detection Lab del Centro de Investigación y Tecnología Hellas (CERTH), de Grecia. Se trata de un proyecto dirigido a las agencias de verificación que busca equipar a la comunidad de fact-checkers con el conocimiento y los recursos necesarios para comprender y contrarrestar el problema de la reciente tecnología del DeepFake. Con la creación del Laboratorio de Detección de DeepFakes, un portal web de fácil acceso y usabilidad, se busca abordar el desafío de identificar rostros manipulados por IA en imagen y video con ejemplos prácticos y una herramienta de detección automática para subir contenido e identificar material visualmente falsificado.

Las propuestas ganadoras han sido escogidos por un jurado formado por expertos de la desinformación, redes sociales y tecnología del ámbito académico, periodístico y tecnológico. Este tribunal ha destacado las soluciones seleccionadas por tener un enfoque innovador que contribuye a la reducción de la difusión e impacto de la desinformación en la sociedad. El jurado ha contado con las valoraciones de Cristina Colom, directora de Digital Future Society, Ramón Salaverría, coordinador científico de la línea de investigación Sociedad y Comunicación de la Universidad de Navarra; Alberto Barrón, profesor asistente Senior de la Universidad de Boloña; Cristina Tardáglia, directora senior de programas del International Center for Journalists (ICFJ); Carles Sora, director del Centro de la Imagen y la Tecnología Multimedia de la Universitat Politècnica de Catalunya; y Sandra Rodríguez García, doctora en Educación, tecnología y IA de la UNESCO.

Pilotaje y cofinanciación por Digital Future Society

Las soluciones vencedoras recibirán, por parte de Digital Future Society, el apoyo en la ejecución y coordinación del proyecto, la cofinanciación del proyecto mediante una aportación económica de hasta 40.000€ y la posibilidad de testear la solución en un entorno real. Además, se ofrecerá un acompañamiento a los equipos para augmentar la visibilidad de los proyectos y generar sinergias con el ecosistema local y nacional en España.

La convocatoria ha contado con la colaboración de Newtral, EFE Verifica, Verificat y Corporació Catalana de Mitjans Audiovisuals, en su compromiso con la lucha contra la desinformación, que consideran uno de los mayores retos en la era digital y que supone una seria amenaza para la salud de las sociedades democráticas contemporáneas y que merma la confianza del ciudadano.

*NOTA ACLARATORIA: Un DeepFake es un archivo de vídeo, imagen o voz manipulados mediante un software de Inteligencia Artificial de modo que parezcan originales, auténticos y reales; en concreto, se trata de técnicas de machine learning denominadas deep learning (aprendizaje profundo), que utilizan algoritmos de redes neuronales.