La plataforma Xbox, propiedad de Microsoft, ha informado que el 87 por ciento de las acciones de moderación realizadas durante la primera mitad de este año fueron activadas por los sistemas automáticos de la compañía. Estos sistemas se han mejorado con nuevos modelos de inteligencia artificial (IA) para detectar interacciones y imágenes que violan las normas de la comunidad.

Con el objetivo de mantener un entorno seguro y promover la diversión de los usuarios, Microsoft utiliza herramientas automáticas y moderadores humanos para detectar contenidos tóxicos en la plataforma en línea de Xbox. La compañía reconoce la importancia de estar al día con los cambios en la industria que puedan afectar la experiencia de los jugadores. Es por eso que han destacado la implementación y uso de la IA para acelerar la moderación de contenidos.

Entre las nuevas herramientas utilizadas se encuentra "Community Sift", que clasifica y filtra miles de millones de interacciones humanas al año, y "Turing Bletchley v3", un modelo multilingüe que escanea imágenes generadas por los usuarios para garantizar que solo se muestre contenido apropiado. Esta información ha sido revelada en el tercer informe de transparencia de Xbox, que ha sido publicado en su blog oficial.

El informe se enfoca en las acciones realizadas durante la primera mitad de este año, tanto aquellas impulsadas de forma proactiva por los sistemas automáticos, como las resultantes de denuncias de los usuarios utilizando las herramientas proporcionadas por Xbox. Durante este período, se llevaron a cabo un total de 17,09 millones de acciones a través de las herramientas proactivas de moderación, lo que representa el 87 por ciento del total de acciones realizadas.

Además, se bloquearon más de 4,7 millones de contenidos antes de que llegaran a los jugadores, lo que supone un aumento del 39 por ciento en imágenes tóxicas (135,000) en comparación con el período anterior. También se observó un aumento del 95 por ciento en las acciones realizadas de manera proactiva contra el acoso e intimidación (84,000).

La compañía también ha destacado una nueva función de informes de voz para capturar y denunciar el acoso por voz en el juego, que se puso a disposición de los jugadores durante el período analizado.