Eso es lo que ha denunciado Laia Serra i Perelló, una crack de la moderación de contenidos con inteligencia artificial, en un evento que ha organizado la Federación Estatal LGTBI+ en Madrid para frenar el odio en las redes. El colectivo LGTBI+ es el que más palos se lleva en Instagram y Facebook, donde la mitad de los insultos van dirigidos a ellos.
Helene Verbrugghe, la jefa de asuntos públicos de Meta, dice que quieren colaborar con la Justicia pero que tienen que currárselo más para dar los datos. El motivo por el que pasan de las peticiones de información, explica, es porque los datos “no están separados”. Además cuenta que cuando ven un vídeo con odio lo borran, y luego cuando la víctima va a denunciar al juzgado el vídeo ya no está y no lo pueden recuperar.
Como la ley no les obliga a controlar la información, lo que hacen en Instagram y Facebook para evaluar el contenido es que los usuarios les avisen si hay odio en su plataforma. En Meta, el odio siempre lo revisan personas, aunque se fijan más en “el contenido que más se mueve”, según dice Verbrugghe.
En Google, la cosa cambia: aunque tienen 25.000 revisores, “el 94% de los contenidos los modera la inteligencia artificial”, según cuenta Jesús Elorza, el encargado de Trust & Safety Intel en Google. En TikTok, lo último que han sacado para moderar contenidos son las denuncias en masa que permiten reportar muchos vídeos.
Se acabó la era de hacer lo que les da la gana
Cada plataforma tiene sus propias normas y se regulan como les parece. Según dice Verbrugghe, en Instagram se puede escribir “el budismo es terrorismo”, pero no se puede decir “los budistas son terroristas”. Ante esto, Laia Serra dice que dejar que cada red social regule el odio como quiera no funciona. “Ha bajado el número de contenido que quitan”, dice Serra. Además, la moderación automática quita discursos que son legales.
Los sistemas de detección por palabras “se pasan” identificando contenido ofensivo. El desafío, según dice la responsable de Meta, es también reconocer el lenguaje que se usa en el odio, porque los usuarios cambian de insultos. La forma de responder a los nuevos insultos es meterlos en su lista de prohibidos, que cada vez es más larga.
La nueva ley, según dice Serra, no dice qué contenidos son ilegales pero pone las bases para una regulación común. “Se parte de una idea de sentido común: cuanto más grande, más responsabilidad”, dice. Youtube y X (Twitter) llegan así al nivel más alto de responsabilidad.
El colectivo LGTBI+ se queda solo ante el odio
Mientras que la Federación Estatal LGTBI+ llama a los delitos de odio “delitos contra grupos vulnerables”, Meta los llama “un ataque a una característica protegida”. La Unión Europea usa otra definición y la ley estatal otra, lo que crea vacíos legales que hacen que muchos casos no se reconozcan como delito de odio, según dice Ignacio Paredero, secretario de Organización de FELGTBI+.
La Federación dice que las personas trans y las mujeres lesbianas son las que más sufren las agresiones y que solo dos de cada 10 delitos de odio se denuncian. Desde 2017 a 2021, ha habido 1.551 delitos de odio registrados. Paredero insiste en que “las personas denuncian más en asociaciones que en la policía” y Charo Alises Castillo, una abogada que sabe mucho de estos casos, aclara que la justicia es gratuita para todas las entidades de interés público.
Miguel Ángel Aguilar, el fiscal que se encarga de los Delitos de Odio y Discriminación, pide que se cambie la formación de jueces y fiscales para que sepan cómo tratar estos casos: “Los jueces pasan de los delitos de odio”, dice. El Ministerio de Igualdad tiene una guía para explicar qué son y qué hacer ante los delitos de odio contra el colectivo LGTBI+ o las personas LGTBI.
