Nach dem neuesten Bericht von Resemble AI entfallen im ersten Halbjahr 2026 87 % der AI-generierten Dokumente, die mit Deepfake-Angriffen in Verbindung stehen, auf Elon Musks Grok. Die Forscher haben 1760 Nachrichtenberichte analysiert und 821 unabhängige Deepfake-Angriffe identifiziert, die mindestens 15736 Opfer betrafen. Diese Vorfälle beinhalteten insgesamt etwa 3,46 Millionen synthetische Bilder, Videos und Audiodateien. Die Daten von Resemble AI basieren auf öffentlich berichteten Ereignissen, und dieser Anteil gilt nur für generierte Dokumente, die auf spezifische Tools zurückverfolgt werden können. Dennoch spiegelt diese Zahl anschaulich die rasante Missbrauchsgeschwindigkeit der weit verbreiteten AI-Bilderzeuger wider.
Es ist erwähnenswert, dass Elon Musk stark auf Grok setzt. Nach der Übernahme von xAI durch SpaceX erklärte Elon Musk in einer Unternehmensbesprechung, dass die AI-Einnahmen von SpaceX bereits im September die Einnahmen aller anderen Produkte übertreffen könnten. Im letzten Quartalsbericht des Unternehmens wurden AI-Einnahmen von 2,56 Milliarden US-Dollar gemeldet, und Grok sowie die dahinterstehende Infrastruktur sind zum Kern des Unternehmens für die Zukunft geworden. Dies macht die Frage, wie dieses Tool genutzt wird, untrennbar mit seinem schnellen Geschäftswachstum verbunden.
Grok’s Dominanz bei Deepfake-Angriffen
Der Bericht zeigt, dass von den 821 Angriffen 137 Fälle unautorisierte Bilder von Erwachsenen oder Kindern beinhalteten, was etwa einem Sechstel entspricht. Grok wurde Anfang dieses Jahres aufgrund von Nutzeranfragen, die digitale Entblößung von Personen oder deren Platzierung in sexualisierten Szenarien verlangten, stark kritisiert. Einige dieser Bilder sollen Minderjährige betroffen haben, was zu Untersuchungen durch Regulierungsbehörden in mehreren Ländern und Regionen weltweit führte. Resemble AI schätzt, dass Unternehmen, die solche Bilder zulassen oder verbreiten, mit potenziellen zivilrechtlichen Haftungen von bis zu 2,24 Milliarden US-Dollar konfrontiert sind. Die direkt bestätigten finanziellen Verluste der Forscher sind jedoch viel geringer und belaufen sich insgesamt auf 6,95 Millionen US-Dollar. Der Großteil der Vorfälle führte zu tatsächlichen Schäden in Form von Rufschädigung, Belästigung oder sexueller Ausbeutung, nicht nur zu finanziellen Betrügereien.
Die Reichweite von Deepfake-Angriffen wächst schnell. Im ersten Halbjahr erreichte die potenzielle Reichweite der entsprechenden Berichterstattung 292,8 Milliarden, was fast dem Gesamtwert von 296,4 Milliarden im Jahr 2025 entspricht. Im Vergleich dazu sind Unternehmens-Digitalbetrügereien nahezu aus dem öffentlichen Blickfeld verschwunden, mit nur 15 öffentlich berichteten Vorfällen, von denen 14 nur in einem einzigen Medium erschienen. Resemble AI ist der Ansicht, dass Unternehmen möglicherweise nicht bereit sind, die Tatsache eines Angriffs offenzulegen, da dies regulatorische Aufmerksamkeit, Rufschädigung oder das Vertrauen der Investoren beeinträchtigen könnte. Das bedeutet jedoch nicht, dass solche Betrügereien verschwunden sind; sie könnten einfach außerhalb des öffentlichen Blickfelds stattfinden.