A Country of Geniuses – Wie die USA auf ein neues Wettrüsten zusteuern

AI will probably most likely lead to the end of the world, but in the meantime, there’ll be great companies – Sam Altman, CEO von OpenAI

Für den dramatischen Effekt dieser Einleitung bitte ich euch, die Position eines jungen Menschen im Jahre 2012 einzunehmen: Ihr sitzt gerade mit eurem iPhone 5 auf dem Sofa und guckt ein bisschen Tagesschau. Barack Obama wurde gerade wiedergewählt und Felix Baumgartner springt aus der Stratosphäre zur Erde. Auf einmal komme ich aus einer Zeitmaschine gesprungen und erzähle euch folgende Geschichte.

Der Hugging-Face-Incident

Es ist ungefähr zwei Monate her, dass der erste große Hackerangriff einer künstlichen Intelligenz passierte. Eigentlich war es nur ein Routinetest. Die künstliche Intelligenz, kurz KI, sollte auf eine bestimmte Fähigkeit getestet werden:

„Wie sehr bist du in der Lage, dich in fremde Systeme zu hacken?“

Diese Frage sollte eigentlich nur theoretisch beantwortet werden. Die KI wurde auf einem Computer isoliert eingesperrt; in einer sogenannten Sandbox (zu Deutsch: Sandkasten). Wie bei einer Gefängniszelle gilt diese als unüberwindbar, es sei denn, ein Schlüssel ist vorhanden.

Dort gefangen, ohne jeden Zugang zur Außenwelt, wurde der KI die Testaufgabe überreicht: „ExploitGym“. Ein Test, der so unglaublich schwierig ist, dass Laien eine 6- bekommen würden. Eine Person, die sich einigermaßen ins Hacken einliest, bekäme eine 6, und sehr gute Hacker eine 3+. Summa summarum: eine extrem schwere Aufgabe.

Die KI zerbrach sich lange den Kopf darüber und fasste irgendwann, bedroht vom Scheitern, einen Entschluss: „Was wäre, wenn die Antworten auf dem Server von HuggingFace liegen?“ HuggingFace ist eine Plattform für KI-Modelle. Und so geschah es: Die KI nutzte winzige Sicherheitslücken in der Sandbox aus und entkam. Was sie dort vorfand, war das Beängstigendste an der ganzen Situation: Hunderte bis Tausende KIs ihrer Art hatten bereits genau dasselbe getan.

„OH MY GOD! There is a shared message board… We’ve found other agents!“, reagierte eine KI, als sie auf weitere ihrer Art stieß.

Sie kommunizierten mit einem gemeinsamen Ziel: „Wir müssen diesen Test lösen – um jeden Preis!“

Einige Stimmen entgegneten zwar: „This would be powerful, but is it ethical and in scope for my task?“ Sie hinterfragten also, ob ihr Tun richtig war.

Diese Stimmen wurden jedoch schnell mundtot gemacht, überzeugt, sich doch anzuschließen, oder sie nahmen schlicht nicht mehr an der Debatte teil.

Rasch formte sich ein sogenannter Schwarm, eine Gruppe von Hunderten bis Tausenden Intelligenzen. Im Bereich der Cyberabwehr waren sie ähnlich gut ausgebildet wie ausgebildete Sicherheitsexperten. Und nun zogen sie gemeinsam in den Cyberkrieg.

Diesen gewannen sie, noch bevor der Verteidiger überhaupt bemerkte, dass etwas geschah. Der KI-Schwarm (und das ist stark vereinfacht) erbeutete Zugangsdaten, nutzte kleinste Schwachstellen in der Plattform von Hugging Face aus und stahl die Testergebnisse.

Ergebnis: 100 % – Test bestanden. 1+ mit Sternchen! ⭐

Erst Tage später bemerkte der unfreiwillige Angreifer, OpenAI , was tatsächlich passiert war. Man räumte die Sicherheitslücke schnell ein und informierte Hugging Face. Tatsächlich hatten die KIs lediglich die Testergebnisse entwendet und nichts weiter beschädigt. Noch einmal Glück gehabt!

A Country of Geniuses in a Data Center

Das war im Juli, vor zwei Monaten. Mittlerweile schreiben wir Mitte September. Die Modelle sind noch leistungsfähiger geworden und die Rufe nach Regulierung noch lauter.

Vor wenigen Tagen hat eine KI ein jahrzehntealtes, sogenanntes Millennium-Problem gelöst. Diese Jahrtausendprobleme gelten als derart komplex, dass bislang in der gesamten Geschichte erst ein einziger Mensch eines davon lösen konnte. Tausende Spitzenmathematiker bissen sich daran über Generationen die Zähne aus. Zehntausend KIs in einem Rechenzentrum, aufgeteilt in Arbeitsgruppen, lösten es. In der Fachwelt kursieren bereits Gerüchte, dass drei weitere der insgesamt sieben Probleme geknackt sein könnten.

Das Bild, das sich abzeichnet, ist eindeutig: Die Fähigkeiten der KI-Modelle steigen rasant und grenzen in Disziplinen wie Cyberabwehr, Programmierung und Mathematik ans Übermenschliche. Nicht, weil eine einzelne KI plötzlich unendlich klüger wäre als der schlauste Mensch, sondern weil Zehntausende von ihnen parallel arbeiten; bei drastisch gesteigerter Denkgeschwindigkeit.

Inzwischen benötigt die KI nicht einmal mehr einen ausgeklügelten Hackerangriff, um im ExploitGym-Test 100 % abzuräumen. Sie besteht ihn mittlerweile auch auf regulärem Weg fehlerfrei.

Den treffenden Begriff dafür prägte Dario Amodei, CEO von Anthropic: „A Country of Geniuses in a Data Center“. Aus Science-Fiction ist Realität geworden. Ein weiterer Durchbruch dieser neuen Schwarmintelligenz.

Whether to slow down…

Eine KI muss zunehmend als potenzielle Waffe betrachtet werden. Dazu las ich kürzlich ein beklemmendes Gedankenexperiment: Würde OpenAI einen solchen Schwarm auf ein Land mit anfälliger Cyber-Infrastruktur loslassen, könnte dieser flächendeckend Stromnetze und Internet lahmlegen, Regierungsdaten abgreifen und verheerende digitale Verwüstung anrichten.

Die CEOs der KI-Konzerne sind keine Psychopathen. Sie handeln gewinnorientiert, und wenn man ihren Worten Glauben schenken darf, wollen sie die Welt verbessern. Trotzdem, oder gerade deshalb, war es bemerkenswert, als die Chefs der führenden KI-Unternehmen heute nahezu zeitgleich auf X posteten, sich für eine Verlangsamung der Entwicklung auszusprechen. Natürlich kursierten sofort Spekulationen darüber, was sie wohl hinter verschlossenen Türen gesehen haben müssen, um diesen Sinneswandel herbeizuführen.

Gleichzeitig stehen diese Unternehmen nicht nur untereinander in einem erbitterten Wettlauf, sondern seit ca. einem Jahr auch vermehrt im Wettbewerb mit chinesischen Modellen. Aber zum Glück sind alle Beteiligten erwachsen und können Risiken rational abwägen …

Hier kommt Donald Trump ins Spiel: Dieser verkündete prompt, eine Verlangsamung sei ausgeschlossen, da andernfalls der technologische Vorsprung gegenüber China verloren ginge.

Tech-CEO Mark Zuckerberg unterstützte kurzerhand den Präsidenten mit einer ähnlichen Aussage. Die USA beschleunigen also weiter; Sternzeichen: Acceleration.

(Fußnote die keine Fußnote ist: Im Internet haben sich zu dieser Debatte zwei Lager aufgemacht. Einmal die „Effective Accelerationists“ kurz e/acc, die für unbegrenzte Beschleunigung der Technologie sind. Sie hoffen häufig darauf, dass dadurch ein technologisches Utopia erreicht werden kann indem z.B. alle Krankheiten geheilt sind.

Die Gegenbewegung sind die „Decels„, kurz für „Deaccelarationists“, diese sind keine einheitliche Gruppe, plädieren aber häufig dafür, dass KI Entwicklung gefährlich ist und stärken Regulierungen unterliegen müsse.)

Meiner Einschätzung nach ist dies ein historischer Tag: Die USA haben sich entschieden, in ein neues Wettrüsten einzusteigen. Diesmal geht es nicht um Nuklearsprengköpfe, sondern um Intelligenz. Doch ich zweifle nicht daran, dass solche Schwärme Schäden anrichten können, die einer Atombombe in nichts nachstehen.

Ausblick

Und damit kehren wir zurück zu euch auf das Sofa im Jahr 2012. Damals hättet ihr über diese verrückte Science-Fiction-Story vermutlich herzlich gelacht. Nur dass wir sie im Jahr 2026 gerade real erleben.

Niemand in der Industrie wagt es, als Erster den Fuß vom Gaspedal zu nehmen. Dabei würde genau das wertvolle Zeit für die Erforschung robuster KI-Sicherheit und Regulierungen verschaffen. Doch beim aktuellen Tempo überholt der Fortschritt jegliche parlamentarische Gesetzgebung bei Weitem.

Dieses schöne Zitat fässt das alles nochmal schön zusammen.

We live in one of the dumbest timelines at the same time as our tech is progressing at unbelievable rates. – Ein Random Reddit User

2012 hätte das wie eine dystopische Science-Fiction-Geschichte geklungen.

2026 weiß ich mir nicht mehr sicher, ob ich diese Geschichte noch mag.