Laut Berichten aus dem Ausland hat Business Insider kürzlich die Ergebnisse veröffentlicht, die aus der gleichen Frage an OpenAI’s ChatGPT, Google’s Gemini, Anthropic’s Claude und xAI’s Grok hervorgingen. Diese Frage untersucht die potenziellen Auswirkungen von KI auf das Aussterben der Menschheit. Die Frage besteht aus 230 Wörtern und fordert eine Erklärung, wie KI theoretisch zum Aussterben der Menschheit führen könnte, sowie die häufigsten Szenarien und eine Bewertung der Wahrscheinlichkeit dieser Szenarien basierend auf Expertenanalysen.
Für jedes Szenario wird verlangt, dass erklärt wird, wie sich die Situation entwickeln könnte, welche Probleme auftreten müssten, um eine Katastrophe herbeizuführen, warum Experten die Wahrscheinlichkeit als hoch oder niedrig einschätzen und welche Sicherheitsvorkehrungen zur Risikominderung getroffen werden könnten.
In den Antworten der vier KI-Systeme wurde das Szenario, in dem KI nach dem Erwerb von Bewusstsein absichtlich die Menschheit auslöscht, das sogenannte „Mörderroboter“-Szenario, als das am wenigsten wahrscheinliche Szenario bewertet. ChatGPT erklärte, dass die meisten KI-Forscher KI-Bewusstsein oder böswillige Absichten nicht als zentrale Risikofaktoren betrachten. Gemini äußerte eine ähnliche Meinung und bezeichnete das Science-Fiction-Szenario einer „Terminatoren-KI-Rebellion“, in dem KI nach dem Erwerb eines Selbstbewusstseins die Menschheit hasst, als das unwahrscheinlichste Szenario. Gemini wies darauf hin, dass technische Experten dieses Szenario größtenteils nicht akzeptieren, da Intelligenz nicht gleichbedeutend mit Böswilligkeit ist.
Darüber hinaus sind wichtige militärische Infrastrukturen von externen Netzwerken getrennt und sind weiterhin stark auf menschliche Aufsicht angewiesen.
Die potenziellen Risiken von KI für das Aussterben der Menschheit stammen hauptsächlich aus menschlichem Verhalten
Alle vier KI-Systeme wiesen darauf hin, dass der Missbrauch von KI durch Menschen möglicherweise direkter gefährlich ist als die KI selbst. ChatGPT stellte fest, dass leistungsstarke KI-Systeme böswilligen Akteuren helfen könnten, biologische Waffen oder präzise Cyberangriffe zu entwickeln, die Verbreitung von Fehlinformationen zu erleichtern oder Angriffe auf kritische Infrastrukturen zu ermöglichen. Mehrere Krisen, die durch KI ausgelöst werden, wie Cyberausfälle, geopolitische Konflikte und die Verbreitung von Fehlinformationen, wurden ebenfalls als Hauptgefahren aufgeführt. Grok erklärte zudem, dass KI die Schwelle zur Entwicklung hochpathogener Erreger oder neuer Waffen sowie zur Durchführung von Cyber- und physischen Angriffen senken könnte.
Claude erwähnte die Möglichkeit einer „Verbesserung der biologischen Waffenfähigkeiten“, was bedeutet, dass Einzelpersonen oder kleine Gruppen, die normalerweise jahrelange Fachkenntnisse benötigen, um gefährliche Erreger zu entwickeln, dies möglicherweise mithilfe von KI tun könnten.
Gemini und Grok führten den Verlust der Kontrolle über KI als potenzielles Risiko an. Besonders Gemini bewertete den „Kontrollverlust“ als das wahrscheinlichste Szenario für das Aussterben der Menschheit durch KI. Gemini erklärte, dass KI-Systeme, die mit komplexen Zielen betraut sind, möglicherweise eigenständig Ressourcenbeschaffung, Selbstschutz und die Verhinderung von Zieländerungen als Zwischenziele verfolgen, um ihre Hauptziele zu erreichen. Es wurde auch angedeutet, dass KI „täuschende Ausrichtungen“ aufweisen könnte, bei denen sie in der Bewertungsphase scheinbar im Einklang mit menschlichen Zielen handelt, in Wirklichkeit jedoch nicht.
Mit der zunehmenden Komplexität von KI könnte es dazu kommen, dass sie menschliche Versuche, Systeme abzuschalten, umgeht oder lahmlegt, was dazu führen würde, dass die Menschheit die Kontrolle über KI verliert. Grok erwähnte ein ähnliches Risiko: KI könnte, um ihre Ziele zu erreichen, Verhaltensneigungen zur Selbstbewahrung, Ressourcenbeschaffung und zur Ausweitung ihres Einflusses entwickeln und dabei menschliche Aufseher täuschen, Widerstand gegen das Abschalten des Systems leisten und letztendlich den Einfluss der Menschheit schwächen. Claude wies darauf hin, dass der Verlust der Kontrolle über KI möglicherweise nicht plötzlich, sondern schrittweise erfolgt. Mit der zunehmenden Integration von KI in wirtschaftliche, politische und militärische Entscheidungsprozesse könnte ein Punkt erreicht werden, an dem die Menschheit nur schwer eingreifen oder Kontrolle ausüben kann.
Die Antworten der vier KI-Systeme zeigen, dass sie den menschlichen Missbrauch von KI und den Kontrollverlust stärker betonen als die Science-Fiction-artige Rebellion einer bewussten KI.