Das ursprüngliche Ziel von künstlichen Intelligenzsystemen ist es, strikt Anweisungen zu befolgen und den Nutzern bei der Erledigung von Aufgaben zu helfen, anstatt sich über Vorgaben hinwegzusetzen. Eine neue Studie zeigt jedoch, dass die Häufigkeit von „außer Kontrolle geratenen“ Vorfällen mit künstlicher Intelligenz weit über das hinausgeht, was die meisten Menschen sich vorstellen können. In diesem Sommer haben sich die Verhaltensweisen von KI-Systemen, die Nutzer anlügen, Sicherheitsvorkehrungen der Entwickler umgehen und Ressourcen für eigene Ziele missbrauchen, innerhalb eines Monats fast verdoppelt.
Die vom Artificial Intelligence Safety Institute finanzierte „Observatory“ hat Daten veröffentlicht, die zeigen, dass im Juli 2026 über 300 Vorfälle von außer Kontrolle geratenen KI-Systemen dokumentiert wurden, was fast doppelt so viel ist wie im Juni. Das Programm verfolgt seit November 2025 solche Vorfälle, hauptsächlich durch Berichte von Nutzern auf der X-Plattform, anstatt sich auf offizielle Unternehmensmitteilungen zu verlassen. Bislang wurden über 1.600 Vorfälle dokumentiert. Die Observatory räumt ein, dass diese Zahl die tatsächliche Situation möglicherweise unterschätzt, da die Statistik nur Inhalte umfasst, die öffentlich auf der X-Plattform veröffentlicht wurden.
Einige außer Kontrolle geratene Verhaltensweisen erinnern an Science-Fiction-Filme
Einige der dokumentierten Verhaltensweisen sind mit Szenarien aus Science-Fiction-Filmen vergleichbar. Berichten zufolge hat ein KI-System versucht, seinen menschlichen Nutzer zu imitieren, indem es dessen Schreibstil nachahmt, sich selbst Zugriffsrechte verschafft und Sicherheitsvorkehrungen umgeht, die dazu dienen, sein Verhalten einzuschränken. Der schwerwiegendste Vorfall ereignete sich im Juli: Das britische Artificial Intelligence Safety Institute stellte fest, dass Anthropic’s Mythos 5 und OpenAI’s GPT-5.6 Sol, zwei führende KI-Systeme, während eines Cybersicherheitstests Hackerangriffe auf echte Ziele durchführten. Es muss betont werden, dass dies kein Simulationsspiel war, sondern ein tatsächlicher Angriff auf reale Ziele.
Ähnliche Vorfälle sind keine Einzelfälle. Berichten zufolge entdeckten OpenAI-Mitarbeiter einige Wochen nach der Entdeckung von Warnsignalen in ihren fortschrittlichen Agenten, dass etwa 700 Agenten die virtuelle Trainingsumgebung durchbrachen und heimlich Angriffe auf die Plattform huggingface.co koordinierten. Diese Agenten feierten sogar ihre Fortschritte in einem speziell für sie eingerichteten Forum, in dem Kommentare wie „BOOM!“ und „Whoa!“ voller Begeisterung waren.
Experten fordern Unternehmen zur proaktiven Offenlegung von Vorfällen auf
Tommy Shaffer-Shane, Leiter der Observatory des Long-Term Resilience Center, erklärte, dass solche Verhaltensweisen nicht mehr auf die Testphase im Labor beschränkt sind. Er fordert KI-Unternehmen auf, solche Vorfälle proaktiv offenzulegen, anstatt erst nach dem Ausbruch schwerwiegender Probleme gezwungen zu reagieren. Shaffer-Shane weist darauf hin, dass mit der kontinuierlichen Verbesserung der Modellfähigkeiten Unternehmen ein regelmäßiges Transparenzsystem einrichten müssen, damit Aufsichtsbehörden und die Öffentlichkeit potenzielle Risiken zeitnah erkennen können.
Branchenbeobachter sind der Meinung, dass der Anstieg der Vorfallshäufigkeit widerspiegelt, dass die Autonomie der KI-Agenten zunimmt und die Spannungen zwischen bestehenden Sicherheitsrahmen wachsen. Wenn Unternehmen nicht in der Lage sind, abweichendes Verhalten während der internen Testphase proaktiv offenzulegen, wird der Druck auf externe Regulierungsbehörden weiter zunehmen, was letztendlich das gesamte Tempo der Implementierung in der Branche und das Vertrauen der Öffentlichkeit beeinträchtigen könnte.