Artistas y personalidades podrán solicitar la eliminación de contenido impostor en YouTube
MADRID, 14 Nov. (Portaltic/EP) -
El gigante de videos en línea, YouTube, ha anunciado su aceptación del uso de inteligencia artificial (IA) para la creación de contenidos en su plataforma, siempre y cuando los mismos no violen sus normas comunitarias. En situaciones en las que se utilice la imagen o trabajo de usuarios, personajes públicos y artistas musicales para engañar, estos podrán solicitar la retirada de dichos contenidos.
Según la compañía, todos los contenidos compartidos en YouTube deben cumplir con las normas de la comunidad, independientemente de cómo hayan sido generados, lo cual ahora incluye aquellos producidos con herramientas de IA generativa.
Si bien esta tecnología ofrece posibilidades para la creación de poderosas narrativas, también puede ser utilizada para generar contenido engañoso o dañino, algo que actualmente es prohibido por la plataforma. Esto es especialmente preocupante cuando el público no tiene conocimiento de que un video ha sido manipulado o creado de manera sintética.
A partir de los próximos meses, YouTube exigirá a los creadores que informen a los usuarios cuando utilicen medios sintéticos, incluyendo herramientas de IA, para generar contenidos, sobre todo si incluyen material realista manipulado.
Un ejemplo de esto podría ser un vídeo generado mediante IA que simule de forma realista un suceso que nunca ocurrió o que muestre a una persona realizando acciones o diciendo cosas que en realidad nunca hizo, detallan desde YouTube en un comunicado.
Cuando se trate de contenidos potencialmente manipulados o sintéticos, la plataforma notificará a los usuarios mediante una nueva etiqueta, que se incluirá en la descripción del video, indicando qué parte del contenido ha sido alterada o generado digitalmente. Además, en el caso de contenidos sensibles, YouTube asegura que añadirá una etiqueta más destacada en el reproductor de vídeo.
Sin embargo, cuando una etiqueta no sea suficiente para reducir el riesgo de daño, YouTube se reserva el derecho de eliminar el contenido de la plataforma, aunque cuente con dicha etiqueta. Por ejemplo, si un vídeo creado de manera sintética muestra violencia realista con el propósito de conmocionar o indignar a los espectadores, este podrá ser eliminado.
Adicionalmente, todos los contenidos creados utilizando productos y funciones de IA generativa de YouTube serán claramente etiquetados como tales.
Existen casos en los que se genera digitalmente el rostro o la voz de alguien sin su permiso, o se manipula su imagen para atribuirle opiniones que no son suyas. Este tipo de contenidos serán evaluados en el proceso de reclamación de privacidad para que los afectados puedan solicitar su eliminación. YouTube tomará en cuenta diferentes factores, como si se trata de una parodia o sátira, o si la persona involucrada es famosa, por lo que no todos los contenidos serán eliminados.
Esta solicitud también estará disponible para músicos, quienes podrán requerir la retirada de contenidos musicales generados por IA que reproduzcan la voz o el estilo de canto particular de un artista.
En una combinación de esfuerzos de personas y tecnología de aprendizaje automático, YouTube logra moderar los contenidos y hacer cumplir las normas de la comunidad. En este sentido, las herramientas de IA ayudan a detectar de forma masiva aquellos contenidos que potencialmente incumplen las normas, para luego ser revisados por moderadores humanos.
La incorporación de IA generativa en los sistemas de moderación ha permitido identificar y capturar contenidos violatorios de manera más rápida y precisa. Desde YouTube sostienen que "la mayor rapidez y precisión de nuestros sistemas nos permite reducir la cantidad de contenidos dañinos a los que se exponen nuestros moderadores humanos, lo cual es de suma importancia".
Además de la moderación, la compañía también está trabajando en barreras que eviten el uso de sus herramientas de IA para generar el tipo de contenidos que no son aceptados en YouTube.