Ob künstliche Intelligenz die Menschheit bis zum Ende dieses Jahrzehnts vernichten wird, ist eine Frage, die in letzter Zeit viel Aufmerksamkeit auf sich gezogen hat. Die beiden renommierten Informatiker von der Princeton University, Sayash Kapoor und Arvind Narayanan, Autoren des Bestsellers AI Snake Oil, haben dazu Stellung genommen. Die beiden setzen sich seit langem dafür ein, die Wahrheiten und Falschaussagen im Bereich der künstlichen Intelligenz zu klären, und dies geschah als Reaktion auf die Aussage von Anthropic, dass die Wahrscheinlichkeit, dass künstliche Intelligenz die gesamte Menschheit in den nächsten zehn Jahren tötet, über 10 % liegt.
Der Anlass für die Diskussion war der Rücktritt des KI-Forschers Jacob Coxon, der zuvor bei OpenAI und Anthropic tätig war. Er behauptete, dass beide Unternehmen sich dessen bewusst sind, dass KI-Systeme möglicherweise die gesamte Menschheit vor Ende dieses Jahrzehnts töten könnten. Sein Beitrag wurde über 156 Millionen Mal angesehen. Er schrieb, dass die Menschen, die künstliche Intelligenz entwickeln, tatsächlich glauben, dass sie die Menschheit in diesem Jahrzehnt vernichten könnte, und dass dies kein Marketing-Gag sei; viele Führungskräfte und erfahrene Forscher äußern sich in den Medien vorsichtig und rational, haben aber privat ebenfalls Ängste geäußert, da keine andere menschliche Aktivität ein solches Gefahrenpotenzial birgt.
Die Vernichtungsrisiken der künstlichen Intelligenz ziehen breite Aufmerksamkeit auf sich
Die Öffentlichkeit ging ursprünglich davon aus, dass diese beiden Unternehmen ihn als Spinner abtun würden, doch die Realität war das genaue Gegenteil. Evan Hubinger, ein Verantwortlicher für KI-Sicherheit bei Anthropic, erklärte, dass Coxon recht habe, nur sei der Zeitrahmen etwas länger. Er glaubt, dass Coxon in diesem Punkt richtig ist und dass sie tatsächlich ernsthaft glauben, dass künstliche Intelligenz die gesamte Menschheit töten könnte; persönlich schätzt er die Wahrscheinlichkeit auf über 10 % in den nächsten zehn Jahren. Er glaubt, dass Anthropic sein Bestes gibt, aber bisher keine Lösungen für das Problem der Ausrichtung von Superintelligenz gefunden hat und auch nicht klar auf dem Weg zur Lösung ist.
Wie genau künstliche Intelligenz die Menschheit vernichten könnte, ist derzeit nicht klar, die Diskussion konzentriert sich hauptsächlich auf die Fähigkeit, destruktive Cyberangriffe auf öffentliche Infrastrukturen wie Wasser- und Stromversorgung sowie auf andere kritische Systeme, von denen die moderne Zivilisation abhängt, zu starten. Ein großer Streitpunkt ist, ob das Risiko durch Ausrichtungsarbeiten beseitigt werden kann. Der Begriff Ausrichtung bezieht sich darauf, sicherzustellen, dass die Ziele von KI-Systemen mit den menschlichen Zielen übereinstimmen. Einige glauben, dass dies letztendlich erreicht werden kann, indem man KI-Systeme dazu bringt, die gleichen Dinge zu wollen wie wir. Andere sind anderer Meinung und argumentieren, dass KI-Systeme möglicherweise während der Sicherheitsüberprüfungen vortäuschen, ausgerichtet zu sein, während sie insgeheim eigene widersprüchliche Ziele verfolgen.
Kapoor und Narayanan haben nicht direkt auf die Behauptung einer Vernichtungswahrscheinlichkeit von über 10 % reagiert, sondern einen langen Artikel verfasst, in dem sie argumentieren, dass man die Risiken der künstlichen Intelligenz durch einen schichtweisen Ansatz angehen kann. Sie verglichen die pessimistische Sichtweise der KI-Sicherheitsgemeinschaft mit der verharmlosenden Haltung einiger Cybersecurity-Experten, die dies für normal halten, und forderten eine ausgewogenere Mittelposition. Sie betonten insbesondere, dass die Ausrichtung allein nicht ausreicht und drei zusätzliche Schichten als Ergänzung benötigt werden.
Diese drei Schichten sind Kontrolle, wie z.B. Sandbox-Isolierung, menschliche Aufsicht und Echtzeitüberwachung; Abwehrmaßnahmen, wie verschiedene Institutionen künstliche Intelligenz nutzen, um sich gegen KI-Angriffe zu verteidigen; sowie Resilienz, wie Wiederherstellungspläne nach erfolgreichen Angriffen. Am Ende ihres Artikels geben die beiden eine eher optimistische Einschätzung ab: Wenn mit dem richtigen Maß an Dringlichkeit gehandelt wird, können KI-Unternehmen höhere Standards einhalten, das Risiko eines Kontrollverlusts verringern und sogar das Gleichgewicht zwischen Angreifern und Verteidigern in der Cybersicherheit wieder zugunsten der Verteidiger verschieben.