San Franciscos Schritt gegen nicht einvernehmliche Deepfakes
Die Stadt San Francisco hat Apple und Google offiziell aufgefordert, sämtliche „Nudify“-Anwendungen aus ihren jeweiligen App‑Stores zu entfernen. Diese Programme nutzen künstliche Intelligenz, um Fotos von Personen zu manipulieren und sie scheinbar zu entkleiden – ein Vorgang, der häufig zu nicht einvernehmlicher pornografischer Darstellung führt. Die Behörden argumentieren, dass das Angebot solcher Tools nicht nur ethisch bedenklich, sondern auch gesetzlich verboten ist.
Kalifornische Rechtslage
Seit 2023 kriminalisiert das kalifornische Gesetz jede Handlung, die wissentlich die Erstellung von nicht einvernehmlichen Deepfake‑Pornografien unterstützt oder dabei mit‑verantwortlich ist. Im darauffolgenden Jahr wurde ein zivilrechtlicher Rahmen geschaffen, der Opfern erlaubt, Schadensersatz von Drittanbietern zu fordern, die solche Inhalte verbreiten. Trotz dieser klaren Vorgaben haben Untersuchungen gezeigt, dass beide Technologie‑Giganten weiterhin Zahlungen für die Nutzung dieser Apps verarbeitet haben.
Vorwürfe der Stadtverwaltung
Stadtstaatsanwalt David Chiu betonte, dass Apple und Google von den illegalen Aktivitäten Kenntnis hatten und dennoch profitierten. Laut den von Chiu eingereichten Schreiben seien die Unternehmen seit fast einem Jahr über die Zahlungsabwicklung für die Apps informiert worden. Das Tech Transparency Project (TTP) hatte bereits im Januar und erneut im April detaillierte Berichte veröffentlicht, die belegen, dass Dutzende von Anwendungen in den Stores zum Verkauf von Deepfake‑Bildern angeboten wurden.
Reaktionen der Unternehmen
Apple erklärte, dass „Nudify“-Apps gegen die Richtlinien des App‑Stores verstoßen und bereits drei betroffene Anwendungen entfernt wurden. Weitere vier Entwicklerkonten sollen laut Aussage des Unternehmens gelöscht werden, sofern sie die Vorgaben nicht einhalten. Google hingegen berichtete, dass alle fünf in den Schreiben genannten Play‑Store‑Einträge suspendiert wurden und dass Suchbegriffe wie „nudify“ blockiert seien, um zukünftige Verstöße zu verhindern.
Finanzielle und gesellschaftliche Implikationen
Schätzungen zufolge könnten die betroffenen Unternehmen durch Gebühren und Transaktionsanteile mehrere Millionen Dollar eingenommen haben. Kritiker warnen, dass die Verbreitung von KI‑basierten Bildmanipulationen das Risiko von Missbrauch und Stigmatisierung insbesondere von Frauen und Mädchen weiter erhöht. Während prominente Persönlichkeiten bereits Zielscheiben solcher Deepfakes waren, ermöglichen Nudify‑Apps nun jedem, der ein öffentliches Foto besitzt, ein potenzielles Opfer zu werden.
Die Stadt San Francisco hat Apple und Google eine Frist von 28 Tagen gesetzt, um auf die Vorwürfe zu reagieren, andernfalls drohen zivilrechtliche Sanktionen. Dieser Fall könnte als Präzedenzfall für weitere Kommunen dienen, die ähnliche Maßnahmen gegen digitale Missbrauchstools ergreifen wollen.
Source: https://techcrunch.com/2026/07/17/apple-and-google-ordered-to-purge-nudify-apps-from-app-stores/