Laut einem Bericht von WIRED hat Meta einst eine mittlerweile entfernte Anwendung beworben, die es Nutzern ermöglichte, AI-generierte pornografische Deepfake-Bilder basierend auf realen Personen zu erstellen. Eine der Anzeigen zeigte eine Frau, die einer bekannten amerikanischen Politikerin ähnlich sah. Hier sind die Details.
Meta und Apple ergreifen Maßnahmen gegen pornografische Deepfake-Anwendungen
Apple gab an, dass die Anwendung nach der Überprüfung verbotene Funktionen hinzugefügt hatte. Laut dem Bericht von WIRED startete Meta eine Werbekampagne für eine Anwendung, die sich selbst als „AI, die von Männern tatsächlich genutzt wird“ bezeichnete, wobei eine Anzeige ein AI-generiertes pornografisches Deepfake-Bild einer Frau zeigte, die einer bekannten amerikanischen Politikerin sehr ähnlich sah. Der Bericht stellte fest, dass das Tool mit dem Namen Kromix sich als „AI-Bildstil-Generator“ bezeichnet. In einem der Videoanzeigen, die WIRED sah, wurde das Tool mit dem Hinweis beworben, dass es „keine Einschränkungen“ habe und dass „alle Charaktere reale Personen“ seien, und es wurde als „AI, die von Männern tatsächlich genutzt wird“ beschrieben.
In einer Anzeige erschien eine Frau, die einer bekannten Politikerin ähnlich sah, vor der amerikanischen Flagge und dem Präsidentenbanner, mit dem Titel „Was wäre, wenn sie sich bewegt?“ Danach blinzelte sie, und die Anzeige wechselte zu einer Szene, in der eine Frau mit einem ähnlichen Gesicht in einem pornografischen Film auftrat.
Der Bericht stellte fest, dass beide Unternehmen sofort Maßnahmen ergriffen, nachdem WIRED Kontakt aufgenommen hatte: Apple entfernte die Anwendung aus dem App Store, während Meta 32 Anzeigen, die sich an männliche Nutzer richteten, zurückzog. Apple betonte in einer Antwort an WIRED, dass Kromix anscheinend verbotene Inhalte und Funktionen hinzugefügt hatte, nachdem es die erste Überprüfung im App Store bestanden hatte. Das Unternehmen erklärte außerdem: „Wir haben immer streng verboten, Anwendungen zu entwerfen, die zur Erstellung, Verbreitung oder zum Konsum von pornografischen Inhalten verwendet werden. […] ‚Entkleidungs‘-Anwendungen verstoßen gegen unsere Richtlinien zur App-Überprüfung, und wir arbeiten aktiv daran, Anwendungen und Entwicklerkonten zu identifizieren und zu entfernen, die versuchen, unseren Prozessen und Richtlinien zu entkommen.“
Apples Sichtweise ähnelt den Kommentaren von David Chiu, dem Stadtstaatsanwalt von San Francisco, der letzten Monat forderte, dass das Unternehmen acht „Entkleidungs“-Anwendungen aus dem App Store entfernt. Zurück zu dem Bericht von WIRED, der darauf hinweist, dass Kromix nicht die einzige solche Anwendung war, die Apple kürzlich nach Kontaktaufnahme durch das Medium entfernt hat. In einer weiteren Untersuchung stellte WIRED fest, dass mehrere problematische Anzeigen auf Meta mit MaskAI in Verbindung standen, einer ähnlichen Anwendung, die es Nutzern ermöglicht, Fotos hochzuladen und Personen in sexuelle Situationen zu setzen. Apple entfernte auch diese Anwendung nach dem Kontakt mit WIRED.