Investigadores de la UPV desarrollan un sistema de IA para detectar contenido sexista en internet

Un equipo de investigadores de la Universitat Politècnica de València (UPV) ha desarrollado un sistema de inteligencia artificial (IA) que ayuda a detectar contenidos y mensajes sexistas en 'memes' y videos de TikTok. El sistema combina el análisis del contenido de los vídeos con datos sobre la actividad cerebral, el movimiento de los ojos y el ritmo cardíaco de los espectadores.

Uno de los investigadores que ha trabajado en el proyecto, Iván Arcos, explica que la herramienta pueda ayudar a las plataformas a detectar el contenido sexista, sobre todo cuando aparece camuflado mediante el humor:

Para desarrollar el sistema, los investigadores de la Politécnica analizaron unos 4.000 memes y unos 2.500 vídeos de TikTok en español e inglés. Los vídeos sexistas generaron, entre otros efectos, mayores tiempos de reacción y un incremento de las fijaciones de la mirada, además de diferencias en determinados patrones de actividad cerebral.

Según recoge el estudio, las reacciones ante contenidos sexistas y no sexistas fueron muy diferentes. Los vídeos sexistas generaron, entre otros efectos, mayores tiempos de reacción y un incremento de las fijaciones de la mirada, además de diferencias en determinados patrones de actividad cerebral. En concreto, el número medio de fijaciones de la mirada aumentó en los vídeos en los que muestran o juzgan situaciones sexistas.

Los movimientos rápidos de los ojos de un punto a otro (sacadas) y los parpadeos siguieron la misma tendencia, y el ritmo cardíaco mostró mayores fluctuaciones ante los vídeos sexistas. En el caso de los memes se observó un patrón similar. "La respuesta también variaba según el tipo de sexismo. El estudio distingue, por ejemplo, entre sexismo directo y contenidos que muestran o juzgan situaciones sexistas, cuya correcta interpretación exige comprender mejor la intención y el contexto del mensaje", ha explicado Iván Arcos.

Según los investigadores, estas diferencias en la mirada reflejan una mayor carga cognitiva: cuanto más difícil es interpretar un contenido, más se detiene y se desplaza la mirada, porque el espectador explora la pantalla en busca de pistas --el texto, los gestos, el contexto-- antes de decidir qué significa. Por eso el efecto es máximo en los vídeos que muestran o juzgan situaciones sexistas, en los que no basta con reconocer lo que aparece en pantalla, sino que además hay que deducir cuál es la postura de quien lo publica.

"El EEG registra la actividad eléctrica del cerebro a través de 16 electrodos, o canales, colocados sobre la cabeza, y permite distinguir entre ondas cerebrales lentas y rápidas. Cuando los sujetos veían un vídeo sexista, las ondas lentas --delta, theta y alfa-- perdían intensidad en los canales de la zona central y parietal, es decir, en la parte alta y trasera de la cabeza. Puede parecer contradictorio, pero es una señal de que el cerebro está prestando más atención: estas ondas, sobre todo las alfa, son más intensas cuando el cerebro está relajado y se reducen cuando se concentra", ha explicado Iván Arcos.

En cambio, en los vídeos que muestran o juzgan situaciones sexistas, frente a los de sexismo directo, aumentaron las ondas rápidas (beta y gamma) en los canales de la parte frontal y del lado derecho de la cabeza. "Estas ondas se asocian a un razonamiento más elaborado. El sexismo directo basta con reconocerlo, pero en estos vídeos el cerebro tiene que analizar el contexto para entender qué quiere decir quien los publica", ha añadido Arcos.

Por su parte, los vídeos de violencia sexual redujeron la intensidad de las ondas cerebrales en todos los canales en los que se detectaron diferencias, sobre todo en el lado derecho de la cabeza. Como ocurría con los vídeos sexistas en general, esta reducción indica una mayor implicación del cerebro, en este caso ante un contenido emocionalmente muy desagradable. Además, que se concentre en el lado derecho coincide con estudios previos que muestran que los dos hemisferios no procesan las emociones de la misma forma.

A partir de estas diferencias, el equipo de la UPV desarrolló el modelo de inteligencia artificial, combinando las señales fisiológicas con la información textual y visual extraída de los vídeos. El trabajo se acaba de presentgar en el XLII Congreso Internacional de la Sociedad Española de Procesamiento del Lenguaje Natural.