Apple endurece las normas de la App Store contra las apps que desnudan fotos con IA y las que esconden lo que hacen

Hay apps que en la tienda se presentan como un editor de fotos o un juego de avatares y, una vez aprobadas, permiten «quitar la ropa» a cualquier persona de una foto. Apple ha cambiado sus normas para ir a por ellas.

¿Qué ha cambiado?

Tres apartados de las normas de revisión, según el anuncio de Apple a los desarrolladores del 16 de octubre:

• Apartado 1.2, contenido de los usuarios. La obligación de moderar ahora nombra expresamente las imágenes íntimas sin consentimiento, incluidas las hechas con IA. La app tiene que impedirlas y retirarlas; si no pone medios o no corrige tras un aviso, puede salir de la tienda.
• Apartado 2.5.19, funciones ocultas. Ya estaba prohibido engañar en la revisión; ahora Apple aclara que retirará las apps que añadan después funciones que no estaban en la versión revisada y que puede expulsar al desarrollador de su programa.
• Sección 5, legal. Las apps que faciliten la trata de personas o la explotación infantil se retiran de la App Store y se bloquean también fuera de ella, en las tiendas alternativas que en Europa permite la Ley de Mercados Digitales.

¿Por qué ahora?

Porque el problema estaba dentro de la tienda. TechCrunch recuerda que en abril un informe de Tech Transparency Project encontró varias apps de este tipo en las tiendas de Apple y Google, algunas marcadas como aptas para menores, y que en julio el fiscal de San Francisco exigió a las dos compañías que las retiraran y les reprochó cobrar comisión por ellas.

¿Cambia algo para quien usa un iPhone?

Directamente, poco: no hay que actualizar nada ni tocar ningún ajuste. Lo que cambia es que Apple tiene ahora una norma escrita para retirar estas apps y que el truco de pasar la revisión con una cara y cambiarla después le cuesta la cuenta al desarrollador. Apple dice que el año pasado frenó más de 150.000 apps con problemas y dio de baja más de 193.000 cuentas por fraude o abuso.

¿Y si alguien difunde una imagen así de ti o de tu hijo?

En España, la Agencia de Protección de Datos tiene un canal prioritario para pedir que se retiren con urgencia fotos, vídeos o audios sexuales o violentos difundidos sin permiso cuando ponen en grave riesgo a quien aparece. La página no dice si admite las imágenes falsas hechas con IA, pero es el primer sitio al que acudir. Conviene guardar capturas y enlaces antes, y denunciar.

Nuestra opinión

Bien, y tarde. Las normas ya prohibían la pornografía; lo que fallaba era una revisión que se dejaba engañar por una pantalla de bienvenida inocente. Escribirlo más claro ayuda, pero la prueba es otra: cuántas de estas apps siguen en la tienda dentro de tres meses.