KI-Sicherheitsforscher kündigt mit einer kryptischen Warnung

„Die Welt ist in Gefahr“, schrieb der Leiter des Safeguards Research Teams von Anthropic in seinem Rücktrittsschreiben.

Mrinank Sharma, ein führender Forscher im Bereich der Sicherheit künstlicher Intelligenz, ist mit einer rätselhaften Warnung vor globalen „vernetzten Krisen“ von seinem Posten bei Anthropic zurückgetreten und hat angekündigt, sich für eine gewisse Zeit „unsichtbar“ zu machen.

Sharma, ein Oxford-Absolvent, der das Safeguards Research Team des Chatbot-Herstellers Claude leitete, veröffentlichte am Montag X sein Rücktrittsschreiben und beschrieb darin eine zunehmende persönliche Auseinandersetzung mit „unserer Situation“.

„Die Welt ist in Gefahr. Und zwar nicht nur durch KI oder Biowaffen, sondern durch eine ganze Reihe miteinander verbundener Krisen, die sich in diesem Moment entfalten“, schrieb Sharma an seine Kollegen.

Der Abgang erfolgt inmitten zunehmender Spannungen rund um das in San Francisco ansässige KI-Labor, das gleichzeitig mit Hochdruck an der Entwicklung immer leistungsfähigerer Systeme arbeitet, während seine eigenen Führungskräfte warnen, dass ebendiese Technologien der Menschheit schaden könnten.

Ich werde zurück nach Großbritannien ziehen und mich für eine gewisse Zeit unsichtbar machen.

— mrinank (@MrinankSharma) 9. Februar 2026

Dies folgt außerdem Berichten über eine zunehmende Kluft zwischen Anthropic und dem Pentagon hinsichtlich des Wunsches des Militärs, KI für die autonome Zielsteuerung von Waffen einzusetzen, ohne die von dem Unternehmen geforderten Sicherheitsvorkehrungen zu treffen.

Sharmas Rücktritt, der wenige Tage nach der Veröffentlichung von Opus 4.6 durch Anthropic – einer leistungsstärkeren Version des Flaggschiff-Tools Claude – erfolgte, deutete auf interne Spannungen hinsichtlich der Sicherheitsprioritäten hin.

„Während meiner gesamten Zeit hier habe ich immer wieder erlebt, wie schwer es ist, unsere Werte wirklich in unserem Handeln zu berücksichtigen“, schrieb er. 

„Ich habe dies an mir selbst, innerhalb der Organisation, wo wir ständig unter Druck stehen, das Wichtigste beiseitezulassen, und auch in der Gesellschaft insgesamt beobachtet.“

Das Forscherteam wurde vor etwas mehr als einem Jahr mit dem Auftrag gegründet, KI-Sicherheitsbedrohungen wie „Modellmissbrauch und Fehlausrichtung“, Bioterrorismusprävention und Katastrophenprävention anzugehen.

Sharma hob mit Stolz seine Arbeit an der Entwicklung von Abwehrmechanismen gegen KI-gestützte Biowaffen hervor und erwähnte sein „Abschlussprojekt zum Verständnis, wie KI-Assistenten uns entmenschlichen oder unsere Menschlichkeit verzerren könnten“. Nun plant er, nach Großbritannien zurückzukehren, um ein Poesiestudium zu beginnen und sich für eine gewisse Zeit zurückzuziehen.

Dario Amodei, der Geschäftsführer von Anthropics, hat wiederholt vor den Gefahren gewarnt, die von eben jener Technologie ausgehen, die sein Unternehmen vermarktet.

In einem fast 20.000 Wörter umfassenden Essay warnte er letzten Monat, dass KI-Systeme von „nahezu unvorstellbarer Macht“ unmittelbar bevorstünden und „ unser Wesen als Spezies auf die Probe stellen“ würden.

Amodei warnte vor „Autonomierisiken“, bei denen KI „außer Kontrolle geraten und die Menschheit beherrschen“ könnte, und deutete an, dass die Technologie durch KI-gestützte Überwachung und autonome Waffensysteme „eine globale totalitäre Diktatur“ ermöglichen könnte.

KI-Bots holen als Quelle des Web-Traffics gegenüber Menschen auf

Das Internet verkommt zu einem Bot-Chaos. Agentengesteuerte KI-Bots verdrängen menschliche Aktivitäten nach dem Motto „Schnell handeln und Dinge kaputtmachen“. Der virtuelle Assistent OpenClaw ist nur die Spitze des Eisbergs: KI-Bots interagieren untereinander, ganz ohne menschliche Beteiligung.

Wer liest so etwas überhaupt? Wahrscheinlich noch mehr Bots, aber kaum Menschen. Das Internet gleicht einem Mülleimer, der bis zum Rand mit Müll gefüllt wird und schließlich in einem brennenden Container landet.

Neue Daten zeigen, dass KI-Bots immer tiefer ins Web vordringen, was Verlage dazu veranlasst, aggressivere Abwehrmaßnahmen zu ergreifen.

Mehr dazu hier.

Der rasante Fortschritt der KI seit Trumps Amtseinführung

Ich bin im Zeitalter der Supercars aufgewachsen: Oldsmobile 442, Chevrolet 454, Dodge Charger R/T, Shelby Cobras und Mustangs. Sie hatten meist manuelle Schaltgetriebe.

Der schönste Klang der Welt entsteht, wenn man im zweiten Gang beschleunigt, der Drehzahlmesser über 6,000 U/min springt, der Motor aufheult und man dann in den dritten Gang schaltet. In diesem Moment wusste man: reale Beschleunigung Der Motor würde einsetzen, und der Wechsel zu einem tiefen Grollen würde Ihrem Herzen einen Schlag versetzen, während gleichzeitig eine Rauchwolke von den Hinterreifen aufsteigt. Die gewaltige PS-Zahl würde Sie in den Sitz pressen.

Seit der Amtseinführung am 23. Januar letzten Jahres hat die KI einen Gang höher geschaltet und bis Ende Januar 2026 unaufhörlich an Fahrt aufgenommen.

Zwölf Monate, vier Quartale und 365 Tage. In diesem Zeitraum hatte ich prognostiziert, dass sich die Leistungsfähigkeit der KI in jedem Quartal verdoppeln würde, insgesamt also um das Achtfache (das entspricht knapp einer Größenordnung).

Hatte ich Recht oder Unrecht? Hier ist eine Antwort, die die KI selbst gegeben hat:

Wenn Ihre Messgröße lautet: „Wie viel kognitive Spitzenarbeit kann die Welt pro Dollar erwerben?“ Wir befinden uns in der Nähe einer Verbesserung um eine Größenordnung. Im letzten Jahr, bedingt durch Kosten, Skalierung und agentenbasierte Nutzung. Wenn Ihre Kennzahl lautet: „Wie viel intelligenter ist das beste Einzelmodell bei festem Budget und fester Latenz im Vergleich zum 23. Januar 2025?“

Eine realistische Antwort lautet eher 2- bis 5-fache Verbesserung bei schwierigen Aufgaben – noch keine volle 10-fache und stark abhängig von der Akzeptanz höherer Denkzeiten und Infrastrukturkomplexität.

Die letzte Aussage wird durch den Hinweis auf „längere Denkzeit“ und die Infrastruktur relativiert. Weiterhin heißt es darin:

Wer in diese Infrastruktur investiert, erhält etwas, das sich wie ein wesentlich leistungsfähigerer und zuverlässigerer „KI-Mitarbeiter“ verhält als Chatbots von Anfang 2025. In einigen Arbeitsabläufen kommt das Ihrer 10-fachen Aussage sehr nahe.

Bis jetzt bin ich mit dem Sieg zufrieden!

Aber wie sieht es im Jahr 2026 aus? Wird sich die KI weiterhin alle drei bis vier Monate verdoppeln? Wenn ja, würde sich die achtfache Steigerung auf das 50- bis 64-Fache erhöhen, also um 6.4 Größenordnungen seit dem 23. Januar 2025.

Wird es bedeutende neue Entdeckungen in der Programmierung geben? Wird die KI selbst beginnen, ihren eigenen Code zu verbessern? Wird die KI tiefer in Gesellschaft, Wirtschaft und Politik vordringen?

Die Antwort auf all diese Fragen lautet „Ja“, doch die Zukunft bleibt ungewiss. Das Tempo des KI-Fortschritts wird sich voraussichtlich nicht ändern, aber neue Durchbrüche könnten ihn beschleunigen.

Ich habe den Eindruck, dass wir gerade erst in den dritten Gang geschaltet haben und nun bis zum Übergang in den vierten Gang Anfang 2027 große Geschwindigkeitszuwächse erleben werden.