Las tiendas de Apple y Google aún promueven apps de desnudez con IA, a pesar de sus políticas
Las tiendas de aplicaciones de Apple y Google continúan ofreciendo y promoviendo aplicaciones que generan contenido sexualizado con inteligencia artificial. Una investigación reciente reveló que, pese a sus normativas estrictas, muchas de estas apps están disponibles para todos los públicos y aumentan su visibilidad mediante búsquedas y publicidad. En total, se hallaron cerca de 95 aplicaciones relacionadas con desnudez y contenido erótico, con millones de descargas y millones de dólares en ingresos.
Este hallazgo se enmarca en un contexto de creciente preocupación social y política por el uso de tecnologías de IA en la producción de contenido sexual, incluyendo deepfakes. Las plataformas, a pesar de sus reglas, parecen ser un espacio donde estas aplicaciones proliferan, generando posibles riesgos para menores y fomentando prácticas problemáticas. La situación evidencia una brecha entre la regulación y la realidad operativa en estos ecosistemas digitales.
Las implicaciones políticas son considerables. La normativa europea, que regula los contenidos en plataformas digitales, aún no ha logrado frenar eficazmente la difusión de apps que incumplen las normas sobre contenido sexual y protección infantil. La falta de transparencia en los procesos de revisión y aprobación de aplicaciones refuerza las dudas sobre la efectividad de las políticas existentes y plantea la necesidad de una regulación más estricta y coordinada a nivel europeo.
Desde una perspectiva futura, el aumento en el uso de IA para crear contenido sexual y la persistencia de estas aplicaciones en las tiendas de apps sugiere que las autoridades y las propias plataformas deben reforzar sus mecanismos de control. La responsabilidad recae tanto en los reguladores como en las empresas tecnológicas para garantizar un entorno digital más seguro, especialmente para los menores y colectivos vulnerables.
El debate político en Europa continúa centrado en cómo equilibrar la innovación tecnológica con la protección de derechos fundamentales. La situación actual revela la necesidad de actualizar las normativas y fortalecer los sistemas de supervisión para evitar que estas plataformas se conviertan en canales de difusión de contenidos perjudiciales y no regulados.