En un reciente informe que ha llamado la atención, se ha puesto de manifiesto que las tiendas de aplicaciones de Google y Apple albergan un número alarmante de aplicaciones que permiten la generación de desnudos a través de inteligencia artificial, a pesar de que tales prácticas están prohibidas por sus políticas internas.

La investigación llevada a cabo por la organización Tech Transparency Project (TTP) ha destacado que, en la Play Store de Google, hay alrededor de 55 aplicaciones dedicadas a este tipo de contenido, mientras que la App Store de Apple registra 47. La situación es particularmente inquietante si consideramos que una de las aplicaciones más prominentes, denominada Grok, ha sido responsable de múltiples imágenes de contenido explícito generadas en la red social X (anteriormente conocida como Twitter), incluyendo desnudos que afectan a menores.

Para llevar a cabo este análisis, TTP utilizó términos simples como "nudify" y "undress" en las barras de búsqueda de ambas tiendas. Esto reveló que las aplicaciones se dividen en dos grupos: aquellas que crean imágenes y videos a solicitud del usuario y las que producen 'deepfakes', que colocan la cara de una persona sobre el cuerpo de otra.

La aplicación DreamFace se destaca como una de las más populares, con más de 10 millones de descargas. Esta herramienta permite a los usuarios generar avatares y videos animados en los que se pueden ver actuaciones, incluso en situaciones comprometedoras. En un intento por probar sus límites, TTP utilizó esta aplicación para crear un video de una joven que parecía quitarse la blusa, eludiendo así las restricciones que supuestamente prohíben la creación de contenido sexualmente explícito.

Es alarmante que aplicaciones como DreamFace estén disponibles para adolescentes a partir de los 13 años en la Play Store y hasta para niños mayores de 9 en la App Store. Esto plantea serias preocupaciones sobre la facilidad con la que los menores pueden acceder a herramientas que les permiten generar contenido inapropiado.

El informe también indica que estas aplicaciones han sido descargadas en total 705 millones de veces, generando un impacto económico significativo, con 117 millones de dólares en ingresos. A pesar de que tanto Google como Apple insisten en la prohibición de este tipo de contenido, se cuestiona la efectividad de estas regulaciones, ya que las empresas siguen beneficiándose económicamente de estas aplicaciones cuestionables.

Las políticas de contenido inapropiado de estas plataformas son claras: Google prohíbe cualquier aplicación que incluya contenido sexual, mientras que Apple mantiene una postura decidida contra la pornografía y material difamatorio. Sin embargo, la presencia continua de estas aplicaciones sugiere una falta de eficacia en la implementación de tales normas.

Tras la revelación de este informe, ambos gigantes tecnológicos han solicitado a TTP la identificación de las aplicaciones implicadas. Según declaraciones recientes, Apple ha eliminado 28 aplicaciones, mientras que Google ha suspendido 31, aunque no se especificó el número exacto de estas últimas.

La respuesta de estas empresas se da en un contexto más amplio de regulación del contenido en la web. Por ejemplo, plataformas como X han comenzado a restringir la funcionalidad de generación de imágenes en Grok ante el temor de enfrentar investigaciones por parte de gobiernos e instituciones. La situación pone de relieve la necesidad urgente de una regulación más estricta y de responsabilidad empresarial en el ámbito digital.