San Francisco ordena a Apple y Google eliminar aplicaciones de "desnudado" digital

La ciudad de San Francisco ordenó a Apple y Google eliminar decenas de aplicaciones de “nudificación” —programas que alteran digitalmente fotografías para desvestir a las personas que aparecen en ellas— de sus tiendas de aplicaciones. La ley de California penaliza cualquier actividad que “facilite a sabiendas” o “ayude o incite de forma imprudente” a la creación de pornografía deepfake no consensuada, y una ley estatal de 2025 permite a las víctimas presentar demandas civiles contra terceros que faciliten ese tipo de material. La ciudad afirma que, pese a estas regulaciones, ambas compañías han seguido alojando y lucrando con dichas aplicaciones.

“Apple y Google están lucrando con aplicaciones que explotan a mujeres y niñas al generar deepfakes íntimos no consensuados”, declaró el fiscal de la ciudad de San Francisco, David Chiu, en un comunicado enviado por correo electrónico a TechCrunch, y agregó que, si bien las compañías han cortado vínculos con algunas aplicaciones problemáticas, “Apple y Google tienen la responsabilidad de ser proactivas y vigilantes para prevenir el abuso sexual”.

Cartas enviadas por la oficina de Chiu a ambas compañías, revisadas por TechCrunch, afirman que Apple y Google han estado al tanto de que procesan pagos por compras ilegales desde hace casi un año, pero han continuado haciéndolo de todos modos. El Tech Transparency Project emitió informes y envió cartas a ambas compañías en enero y nuevamente en abril, señalando decenas de aplicaciones en sus tiendas que vendían imágenes íntimas no consensuadas generadas mediante deepfakes a cambio de pagos procesados por las dos firmas. El informe de abril de la organización también afirmó que Apple y Google habían dirigido intencionalmente a los usuarios hacia esas aplicaciones y describió a ambas compañías como participantes clave en la propagación de herramientas de IA que convierten a personas reales en imágenes sexualizadas. Chiu declaró por separado a Wired que las compañías probablemente habían obtenido millones de dólares en comisiones por aplicaciones que ofrecían este tipo de servicios.

Las cartas advierten que Apple y Google podrían enfrentar sanciones civiles por violar la ley y solicitan a ambas compañías que se comuniquen con la ciudad en un plazo de 28 días. Apple señaló que las aplicaciones de nudificación están prohibidas en su App Store y que ha eliminado tres de las aplicaciones mencionadas en las cartas, está en proceso de terminar las cuentas de sus desarrolladores y está en contacto con otros cuatro desarrolladores que deben corregir infracciones de política o arriesgarse a ser eliminados. Google indicó que las cinco aplicaciones de Play Store citadas en la carta de Chiu ya fueron suspendidas, y que investiga las infracciones reportadas, lo que en este caso incluyó la suspensión de cientos de aplicaciones infractoras y la restricción de términos de búsqueda como “nudify”.

La pornografía deepfake ha afectado principalmente a celebridades femeninas, pero las aplicaciones de nudificación permiten que cualquier persona con una foto disponible públicamente se convierta en un blanco.

Por qué importa

Las cartas ejercen presión financiera sobre Apple y Google al vincular directamente el procesamiento de pagos de sus tiendas de aplicaciones con una posible responsabilidad legal, una palanca que podría empujar a ambas compañías hacia un filtrado proactivo más estricto en lugar de retiros reactivos tras ser señaladas.