Facebook ha informado de que tomó medidas sobre 28,6 millones de contenidos por incitación al odio durante el tercer trimestre de este año en su red social homónima y en Instagram.
La compañía ha señalado en su Informe de cumplimiento de normas comunitarias que ha tomado medidas entre julio y septiembre de este año sobre 22,1 millones de contenidos en Facebook por incitación al odio, de los cuales aproximadamente el 95 por ciento se identificaron de forma proactiva.
Por su parte, en Instagram ha tomado medidas en 6,5 millones de contenidos de incitación al odio o a la violencia durante el tercer trimestre del año, frente a los 3,2 millones del segundo trimestre, de los cuales el 95 por ciento se identificaron de forma proactiva, en comparación con el 85 por ciento del segundo trimestre.
Facebook ha señalado que el aumento en la tasa de detección proactiva de discurso de incitación al odio en Instagram se debe en parte a la mejora de su tecnología de detección para los idiomas inglés, árabe y español, así como la expansión de la tecnología de automatización.
Asimismo, la compañía ha tomado medidas sobre 19,2 millones de contenidos violento y gráfico en Facebook, frente a los 15 millones del segundo trimestre, y sobre 4,1 millones de contenidos en Instagram, comparado con los 3,1 millones de contenidos.
En cuanto a contenidos de desnudez infantil y explotación sexual, la compañía ha tomado medidas sobre 12,4 millones de contenidos en Facebook y un millón en Instagram, frente a los 9,5 millones y los 481.000 contenidos durante el segundo trimestre, respectivamente.
La compañía también ha tomado medidas sobre 3,5 millones y 2,6 millones de contenidos de intimidación y acoso en Facebook e Instagram, respectivamente, así como sobre 1,3 millones de contenidos de suicidios y autolesiones únicamente en Instagram, en comparación a los 277.400 contenidos durante el segundo trimestre del año.
Prevalencia del discurso del odio
Además, el Informe de cumplimiento de normas comunitarias incluye por primera vez la prevalencia del discurso del odio en Facebook a nivel mundial, que estima el porcentaje de veces que las personas ven contenido que infringe sus normas en la plataforma.
Teniendo en cuenta que el discurso del odio depende del idioma y del contexto cultural, la compañía estima que la prevalencia del discurso del odio entre julio y septiembre de 2020 fue del 0,1 al 0,11 por ciento. En este sentido, de cada 10.000 visualizaciones de contenido en Facebook, de 10 a 11 incluían discursos de odio.
Para encontrar y eliminar de forma proactiva el discurso del odio, Facebook ha desarrollado herramientas y sistemas de Inteligencia Artificial (IA) y gracias a los avances en estas tecnologías ha podido eliminar más discurso del odio en la plataforma con el tiempo.
En este sentido, cuando la compañía comenzó a informar sobre métricas de incitación al odio, durante el cuarto trimestre de 2017, la tasa de detección proactiva era del 23,6 por ciento y ahora la compañía es capaz de detectar alrededor del 95 por ciento del contenido.
