UJA usa IA para combatir el discurso de odio en las redes sociales

El proyecto ‘Moderados’ tiene como objetivo desarrollar herramientas y técnicas de inteligencia artificial basadas en el procesamiento del lenguaje natural (PNL), que es un campo de la inteligencia artificial y la lingüística que analiza la interacción entre los ordenadores y el lenguaje humano. El objetivo es combatir el discurso de odio en las redes sociales y promover la comunicación constructiva. La idea es poder detectar proactivamente los discursos de odio y proponer soluciones que promuevan el diálogo constructivo generando automáticamente contranarrativas que enriquezcan el entorno digital con mensajes positivos. Este proyecto ha sido liderado por el Grupo de Investigación en Sistemas Inteligentes de Acceso a la Información (Sinai) de la Universidad de Jaén, financiado por el Ministerio de Ciencia e Innovación. Los investigadores principales del proyecto son L. Alfonso Ureña y María Teresa Martín, profesores de la Universidad de Jaén, quienes subrayaron la importancia de esta iniciativa. “La moderación de contenidos en redes sociales es un reto actual que requiere de la colaboración de la academia, la industria y la sociedad en general”, han subrayado, subrayando además que el objetivo de su trabajo es “el desarrollo de sistemas automatizados que identifiquen y combatan los discursos de odio , promoviendo así un entorno virtual más seguro y gratificante para todos los usuarios”.

The Sinai Group tiene una amplia experiencia en el desarrollo de sistemas basados ​​en IA para detectar el discurso de odio. Más de una docena de investigadores senior con experiencia en PLN también están trabajando en este proyecto innovador. El proyecto cuenta con una financiación de casi 300.000 euros correspondientes al concurso Transición Ecológica y Digital del Ministerio de Ciencia e Innovación. Representa un avance significativo en la aplicación de tecnologías de inteligencia artificial basadas en el lenguaje para abordar este problema y mejorar su mitigación, y se espera que tenga un impacto científico y social significativo en la promoción de una comunicación en línea más respetuosa y constructiva.



Source link