Contexte juridique californien
La Californie a criminalisé toute activité qui facilite sciemment ou encourage de façon imprudente la création de pornographie deepfake non consentie. En 2025, la législation a été renforcée pour permettre aux victimes d’engager des actions civiles contre les tiers qui fournissent les outils nécessaires à ces manipulations numériques. Ces dispositions visent à protéger les personnes, en particulier les femmes et les jeunes filles, contre l’exploitation sexuelle en ligne.
San Francisco met la pression sur les géants du mobile
Le bureau du procureur de la ville, dirigé par David Chiu, a envoyé des lettres officielles à Apple et Google, les accusant de profiter financièrement d’applications dites « nudify ». Ces programmes utilisent l’intelligence artificielle pour retirer les vêtements d’une photo, créant ainsi des images intimes sans le consentement de la personne représentée. Selon les autorités municipales, les deux plateformes continueraient à héberger et à monétiser ces services malgré les avertissements répétés.
Des signalements répétés
Le Tech Transparency Project (TTP) a publié deux rapports, en janvier et en avril, détaillant la présence de dizaines d’applications vendant des deepfakes non consensuels via les boutiques d’applications. Le rapport d’avril accuse explicitement Apple et Google d’« orienter les utilisateurs vers ces apps » et de jouer un rôle clé dans la diffusion de ces outils d’IA. Les lettres de San Francisco soulignent que les entreprises auraient perçu des millions de dollars de frais de transaction liés à ces contenus illicites.
Réactions d’Apple et de Google
Apple affirme que les applications « nudify » sont interdites sur l’App Store. Un porte‑parole a indiqué que trois applications avaient déjà été retirées et que les comptes développeurs associés étaient en cours de suppression. Quatre autres seraient en instance de sanction.
Google, de son côté, a déclaré que les cinq applications mentionnées dans la correspondance avaient été suspendues de Google Play. La société assure qu’elle enquête rapidement sur chaque signalement et a même limité les recherches contenant le terme « nudify ».
Enjeux et perspectives
Cette confrontation met en lumière la difficulté pour les plateformes de filtrer les contenus générés par l’IA, surtout lorsqu’ils portent atteinte à la dignité humaine. Les sanctions potentielles, incluant des amendes civiles, incitent les géants technologiques à renforcer leurs politiques de modération et à collaborer davantage avec les autorités locales.
Au-delà du cadre juridique, le débat soulève des questions éthiques sur la responsabilité des entreprises face aux abus de l’intelligence artificielle. La suppression des applications « nudify » pourrait devenir un précédent pour d’autres juridictions cherchant à réguler les deepfakes et à protéger les victimes de la diffusion non consentie d’images intimes.
Source: https://techcrunch.com/2026/07/17/apple-and-google-ordered-to-purge-nudify-apps-from-app-stores/