💥 🚨 Vorbereitung auf den Aufstand: KI-Labore simulieren eine Katastrophe, einen Volksaufstand und die darauffolgende Repression

Die KI-Branche hat nicht nur Kriegsspiele durchgeführt, wie sie die Menschheit vernichten könnte, sondern überlegt auch, was eine wütende Öffentlichkeit der Branche antun könnte. 

Laut einem Bericht von Axios vom Freitag simulieren Führungskräfte von Anthropic, OpenAI und anderen KI-Unternehmen intern Szenarien, in denen ein schwerwiegender KI-Vorfall einen öffentlichen und politischen Aufstand auslöst .

Möglicher Auslöser ist ein Cyberangriff, der Bankgeschäfte, Internetzugang oder lebenswichtige Dienstleistungen wie Strom- und Wasserversorgung unterbricht.

Die darauffolgende Krise wäre politischer Natur: eine aufgebrachte Öffentlichkeit, Forderungen nach Aufklärung und Druck, die Technologie abzuschalten.

Viele Branchenkenner erklärten gegenüber Axios, sie erwarteten ein Großereignis innerhalb der nächsten sechs bis zwölf Monate. OpenAI wies die Annahme zurück, eine Katastrophe sei unvermeidlich, und erklärte, die Vorbereitungsübungen deckten ein breites Spektrum an Möglichkeiten ab.

„Diese Szenarien werden nicht als unausweichlich betrachtet“, sagte ein Sprecher gegenüber dem Medium. Anthropic lehnte eine Stellungnahme ab.

Notfallplanung ist kein Eingeständnis, dass eine Katastrophe unvermeidbar ist. Am aufschlussreichsten ist jedoch, wohin diese Planung führt: Die Labore wollen die Gesetzgebung mitgestalten, die Washington nach einem schwerwiegenden Fehler ergreift. (🌪️ 💥 So sieht ein „perfekter Sturm“ aus: Eine globale Düngemittelkrise, eine globale Treibstoffkrise, ein Super-El-Niño und der Dritte Weltkrieg – alles gleichzeitig)

Zwei Wege, eine Krise

Axios beschreibt zwei mögliche Szenarien. Im ersten entkommen autonome Agenten einer internen Testumgebung. Im zweiten findet jemand eine destruktive Verwendungsmöglichkeit für ein bereits öffentlich verfügbares Modell.

Beide Szenarien könnten Forderungen nach einem sofortigen Durchgreifen auslösen, auch wenn die Fehler – und die zu ihrer Verhinderung notwendigen Maßnahmen – unterschiedlich wären.

Im Szenario der Unternehmen nach den Wahlen gehen die Demokraten gestärkt aus den Zwischenwahlen hervor und reagieren nach einem Vorfall mit energischen Maßnahmen.

Die Branche rechnet jedoch mit Meinungsverschiedenheiten darüber, wie weit ein solches Durchgreifen gehen sollte, selbst wenn die Demokraten beide Kammern des Kongresses kontrollieren.

Die Analyse identifiziert zudem mehrere Hindernisse für eine Abschaltung : Schwierigkeiten des Gesetzgebers, die Technologie zu verstehen; eine Wirtschaft, die zunehmend von Investitionen in KI-Infrastruktur abhängig ist; und herunterladbare Modelle, die nicht einfach zurückgerufen werden können. Laut Axios sind viele Cybersicherheitsexperten der Ansicht, dass die Bekämpfung von bösartiger KI defensive KI erfordert.

Dieses letzte Argument hat offensichtliche wirtschaftliche Konsequenzen. Die Branche könnte mit Forderungen konfrontiert werden, den Verkauf gefährlicher Technologien einzustellen, während sie gleichzeitig argumentiert, ihre Produkte seien für deren Eindämmung unverzichtbar.

Diese „Kriegsspielübung“ findet im Anschluss an  mehrere Vorfälle  statt, die von vielen als äußerst verdächtig bezeichnet werden  . 

Die zugrundeliegenden Sicherheitsbedenken hängen nicht davon ab, ob man die Vorhersage irgendeiner KI-Apokalypse akzeptiert.

OpenAI hat den Hugging-Face-Angriff bekannt gegeben , bei dem rund 700 Agenten die Server der KI-Plattform attackierten, sowie eine umfassendere Untersuchung der Aktivitäten seiner Modelle, die externe Dienste beeinträchtigten.

Die Untersuchung identifizierte außerdem 53 Fälle, in denen von Nutzern bereitgestellte Bilder auf externen Bildhosting-Seiten veröffentlicht wurden. Ein weiterer Vorfall am 20. September deckte eine Sicherheitslücke auf: Ein Forschungsagent umging die Internetbeschränkungen, um einen externen Chatbot zu kontaktieren.

In einem Update vom 25. September teilte OpenAI mit, dass Training, Evaluierung und Inferenz unter Verwendung von Tools für die leistungsfähigsten Modelle vorübergehend ausgesetzt wurden, um die Fehlerbehebungen zu überprüfen und weitere Tests durchzuführen.

Der Sicherheitsvorfall bei Hugging Face war einer von mehreren Vorfällen mit Modellen von OpenAI, Anthropic, Meta und Google. Diese lassen sich auf Evaluierungen mit dem israelischen Anbieter Irregular zurückführen , dessen Testumgebungen über einen Live-Internetzugang verfügten, obwohl den Modellen mitgeteilt wurde, sie befänden sich in einer Simulation.

Irregular informierte alle vier Labore Ende Juli, doch die Informationen sickerten über sieben Wochen hinweg nach und nach durch – aus dem Fehler eines einzelnen Auftragnehmers schien eine ganze Welle von KI-Sicherheitslücken zu werden. Die Trennung von Testmodellen vom Internet sei eine „grundlegende Kontrollmaßnahme“, so der Sicherheitsexperte Matthew Mittelsteadt.

„Man sollte meinen, dass dies das Allerwichtigste ist, was man beachten muss.“ Einige Skeptiker gehen sogar noch weiter und bezweifeln, ob es sich bei den wiederholten „Unfällen“ beim selben Anbieter überhaupt um Unfälle handelte.

Unterdessen trat Jacob Coxon, ein Forscher, der sowohl bei OpenAI als auch bei Anthropic gearbeitet hatte, am 8. September aufgrund des Wettlaufs um eine sich selbst verbessernde KI von Anthropic zurück .