¿Cuántas posibilidades tienes de encontrar publicaciones que incitan al odio en Facebook?

La redes sociales llevan tiempo tomando medidas para mejorar sus ecosistemas; también Facebook , que recientemente tomó la medida de comenzar a perseguir el contenido en el que se niega la existencia del Holocausto sufrido por los judíos durante la Segunda Guerra Mundial . Ahora, la compañía de Mark Zuckerberg ha compartido en su informe trimestral de cumplimiento de los estándares comunitarios datos exactos sobre la cantidad de contenido que incita al odio que ven los usuarios.

«Debido a que el discurso del odio depende del idioma y el contexto cultural, enviamos estas muestras representativas a revisores de diferentes idiomas y regiones. Con base en esta metodología, estimamos que la prevalencia del discurso de odio desde julio de 2020 hasta septiembre de 2020 fue del 0,10% al 0,11%. En otras palabras, de cada 10.000 visualizaciones de contenido en Facebook, de 10 a 11 incluían discursos de odio», afirman desde la red social.

Facebook considera discurso de odio a todo lo que ataca directamente a las personas en función de características como la raza, el origen étnico, el origen nacional, la afiliación religiosa, la orientación sexual, el sexo, la identidad de género o la discapacidad o enfermedad.

«En los últimos años, hemos ampliado nuestras políticas para brindar mayor protección a las personas contra diferentes tipos de abuso. Hemos tomado medidas para combatir el nacionalismo blanco y el separatismo blanco; introdujo nuevas normas sobre contenidos que piden violencia contra los migrantes; negación del holocausto prohibido; y actualizamos nuestras políticas para tener en cuenta ciertos tipos de incitación al odio implícita, como el contenido que muestra la cara negra o los estereotipos sobre los judíos que controlan el mundo», recuerdan desde la red social.

Para encontrar y revisar el contenido que incita al odio, Facebook, además de apoyarse en equipos humanos, cuenta con sistemas de Inteligencia Artificial (IA) que ayudan a «encontrar y eliminar de forma proactiva el discurso de odio a gran escala». La plataforma sostiene que, gracias al uso de esta herramienta, han detectado de forma proactiva el 95% de contenido que incita al odio que se eliminó de la plataforma entre julio y septiembre, sin necesidad de que un usuario lo denuncie.