Es war kein gewöhnlicher Abgang. Jacob Coxon, 27-jähriger Forscher beim US-amerikanischen KI-Unternehmen Anthropic, trat von seinem Posten zurück und veröffentlichte auf der Plattform X eine Erklärung, die in ihrer Schärfe kaum zu überbieten ist. Die großen Entwickler künstlicher Intelligenz handelten unverantwortlich, schrieb er, und „spielten mit unseren Leben“.
Was folgte, war keine vereinzelte Kritik eines frustrierten Mitarbeiters. Innerhalb weniger Tage meldeten sich weitere hochrangige Stimmen aus dem Inneren der KI-Branche zu Wort — und das Bild, das sie zeichneten, ist düster. Wann genau kippt die Lage, und was ist bloße Panikmache — was reale Gefahr?
Coxons Kündigung bei Anthropic: Was der 27-Jährige konkret vorwirft
Coxon legte in seinem öffentlichen Statement dar, dass Computersysteme bald die Fähigkeiten von Menschen überträfen. KI werde dann „alles hacken können“ und sich „Zugang zu echter Macht und Ressourcen“ verschaffen. Das ist kein abstraktes Zukunftsszenario in seinen Augen — es ist eine absehbare Entwicklung, der die Branche mit zu wenig Ernsthaftigkeit begegne.
„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, erklärte Coxon. Nach den „aggressivsten Szenarien“ könnten die Dinge bereits Ende des kommenden Jahres außer Kontrolle geraten — und irgendwann danach, so seine Formulierung wörtlich, „könnten alle sterben“.
Mehr zum Lesen
Zehn Prozent Risiko: Weitere Anthropic-Forscher bestätigen die Warnung
Coxon ist nicht allein. Evan Hubinger, Anthropic-Forscher und intern zuständig dafür, dass KI-Systeme mit den Interessen der Menschen im Einklang bleiben, trat wenig später öffentlich auf und bestätigte die Sorgen seines ehemaligen Kollegen. Seine persönliche Einschätzung: Die Wahrscheinlichkeit, dass KI die Menschheit im kommenden Jahrzehnt tötet, liege bei mehr als zehn Prozent.
Auch Jakub Pachocki, Forschungschef beim ChatGPT-Entwickler OpenAI, meldete sich zu Wort. Er mahnte „extreme Vorsicht“ ein und erklärte, man befinde sich an einem Moment der Geschichte, an dem die Intelligenz von Maschinen beginne, jene der Menschen zu übertreffen. Eine Einschätzung, die aus dem Mund des Forschungsleiters eines der mächtigsten KI-Konzerne der Welt besonderes Gewicht hat.
KI gegen KI: Pachockis paradoxes Argument für mehr Forschung
Pachocki vertritt gleichzeitig eine Position, die auf den ersten Blick widersprüchlich wirkt: Er sieht in der weiteren KI-Entwicklung auch einen Schutzwall gegen dieselben Gefahren. Künstliche Intelligenz, so sein Argument, werde benötigt, um Infrastruktur zu sichern und völlig neue Verteidigungsmechanismen zu entwickeln — unter anderem gegen KI-Systeme, die von Akteuren mit schlechten Absichten eingesetzt werden.
Die Logik dahinter ist bekannt aus der klassischen Rüstungsdebatte: Wer die gefährlichste Technologie beherrscht, kann sie auch zur Abwehr nutzen. Ob dieses Kalkül aufgeht, bleibt offen.
„Das ist eher Science Fiction“: Österreichs Technikfolgen-Experte mahnt zur Einordnung
Eine deutlich nüchternere Einschätzung kam am Montagabend aus Wien. Michael Nentwich, Direktor des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften, erklärte in der „ZIB2“ bei ORF-Moderator Armin Wolf, man müsse mit Warnungen vor der Auslöschung der Menschheit „sehr aufpassen“.
Gefährlich seien KI-Modelle durchaus, und zwar „in den unterschiedlichsten Versionen“, so Nentwich. Doch eine KI, die sich selbstständig mache, womöglich ein eigenes Bewusstsein und einen eigenen Willen entwickle — das glaube er persönlich nicht: „Das ist eher Science Fiction, das wird noch länger dauern.“ Was KI jedoch leiste und könne, könne natürlich von verschiedensten Akteuren „zweckentfremdet“ werden — und genau darin liege die reale, gegenwärtige Gefahr.
Was bleibt: Drei Punkte, über die die Branche jetzt streitet
- Zeithorizont: Coxon spricht von Ende 2027 als möglichem Kontrollverlust-Szenario, Hubinger nennt ein Jahrzehnt als Rahmen — die Einschätzungen divergieren erheblich.
- Wahrscheinlichkeit: Zehn Prozent Risiko für einen katastrophalen Ausgang innerhalb von zehn Jahren ist ein Wert, den selbst KI-kritische Forscher außerhalb der Branche als hoch einschätzen würden.
- Motivation: Ob solche öffentlichen Warnungen dem Schutz der Öffentlichkeit dienen oder auch dazu beitragen, Regulierungsdruck in eine bestimmte Richtung zu lenken, ist eine Frage, die in der Technikfolgenforschung intensiv diskutiert wird.
Michael Nentwich und das Institut für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften werden die Debatte weiter beobachten — und ob auf die Warnungen der Forscher gesetzgeberische Reaktionen in der EU folgen, ist die entscheidende offene Frage der kommenden Monate.
Ihre Meinung hilft uns
Das Gespräch geht weiter
Kommentare