La red social Facebook presentó este jueves su último informe sobre el cumplimiento de las normas comunitarias en la plataforma, en el que aseguró que el 95% de los mensajes de odio son eliminados de forma proactiva sin necesidad de que los usuarios los denuncien.
La empresa explicó que hace tres años, en 2017, la inteligencia artificial únicamente le servía para detectar de forma proactiva el 23.6% de los mensajes de odio, de manera que el resto solo eran retirados cuando algún usuario denunciaba estos contenidos y por tanto aumentaba su exposición.
Sin embargo, entre julio y septiembre de este año, de las decenas de millones de contenidos de odio eliminados en Facebook e Instagram, el 95% fueron suprimidos de forma proactiva al ser detectados por sistemas de inteligencia artificial, reduciendo así significativamente su tiempo de exposición.
En concreto, la compañía retiró por este motivo 22.1 millones de mensajes en Facebook durante esos tres meses (una cantidad similar a la del trimestre anterior) y 6.5 millones en Instagram (el doble que en el trimestre precedente).
El informe destacó que el periodo de referencia incluye parte de la campaña presidencial en Estados Unidos, aunque no la recta final (octubre) ni la jornada electoral en sí misma, o los varios días que ha durado el escrutinio de los votos.
La compañía que dirige Mark Zuckerberg añadió por primera vez en el informe datos sobre la “prevalencia” de los mensajes de odio, es decir, el porcentaje de veces que los internautas ven contenidos que violan las normas comunitarias de la plataforma.
Para cuantificar esta variable, la empresa toma una muestra aleatoria de contenidos visibles en Facebook (es decir, que no han sido retirados) y analiza cuáles de ellos son mensajes de odio (que atentan contra grupos de personas por su raza, sexo, cultura, creencias religiosas, orientación sexual, etc).
Según este método, la prevalencia de contenidos de odio entre julio y septiembre fue de entre el 0.10 y el 0.11%, lo que supone que de cada 10,000 veces que un usuario vio contenidos en Facebook, diez u once de ellos contenían mensajes de odio.
