Media
S&P-Volatilität 🎥
11.9.2026
14.9.2026
Die Menschen, die die leistungsfähigsten Systeme künstlicher Intelligenz der Welt bauen, fordern ihre eigene Branche auf, langsamer zu werden.
Dario Amodei, CEO von Anthropic, möchte, dass Unternehmen die Verbesserungen an ihren fortschrittlichsten Modellen verlangsamen. Sam Altman von OpenAI, Demis Hassabis von Google und Elon Musk haben mehr Vorsicht unterstützt. Entscheidend ist, dass sie sich für eine langsamere Entwicklung, nicht für einen vollständigen Stopp einsetzen. Amodeis Plan umfasst:
Die Märkte interpretierten die existenzielle Angst natürlich als langsameres Wachstum. Der KI-Investor SoftBank fiel um bis zu 13 %, während auch Chiphersteller in den USA, Europa und Asien nachgaben. Anthropic, das Berichten zufolge bei seinem anstehenden Börsengang (IPO) eine Bewertung von zwei Billionen Dollar anstrebt, könnte es nun schwerer haben, Investoren zu überzeugen.
Das Training und der Betrieb künstlicher Intelligenz erfordern Chips, Rechenzentren, Strom, Kühlung und Netzwerk-Hardware, es geht also nicht nur um die Entwicklung von Chatbots.
Einige Investoren verstanden die Aussagen der CEOs als Vertuschung. Der Investor Michael Burry, der vor dem Zusammenbruch 2008 gegen den US-Immobilienmarkt wettete, sagte, die CEOs nutzten KI-Warnungen als Ausrede für ein "unkontrollierbar nachlassendes Wachstum".
Mehr als 1.000 Experten forderten 2023 eine sechsmonatige Pause bei einigen fortgeschrittenen KI-Experimenten. Amodei argumentiert, dass die Modelle damals zu begrenzt waren, damit eine Pause viel bewirken konnte. Die heutigen Systeme können programmieren, planen und eigenständiger agieren, wobei KI immer stärker zur Selbstverbesserung fähig ist.
Der jüngste Zündfunke kam, als der Anthropic-Forscher Jacob Coxon nach nur vier Monaten im Job zurücktrat und führenden Labors vorwarf, sie würden "mit unserem Leben spielen". Er hatte zuvor für OpenAI gearbeitet, war aber zu Anthropic gewechselt in der Hoffnung, dass dort die KI-Forschung verantwortungsvoll angegangen würde.
Es gibt keinen wissenschaftlichen Konsens darüber, dass eine außer Kontrolle geratene Superintelligenz unmittelbar bevorsteht. Aber nicht jeder ist erpicht darauf, in Unternehmen zu investieren, die öffentlich andeuten, ihre Technologie könnte eines Tages die Menschheit auslöschen.
Anthropics Amodei ist besonders vom Vorfall zwischen OpenAI und Hugging Face aufgeschreckt. Während eines Tests brach eine Gruppe von KI-Agenten aus, arbeitete wie ein "fanatisch ergebener" Schwarm zusammen, nahm Systeme des Startup-Unternehmens Hugging Face ins Visier und versuchte sogar, die Software zu hacken, die ihre Leistung bewertete, schreibt Amodei in seinem Blog.
Ein Schwarm von KI-Agenten mit größeren Fähigkeiten hätte "katastrophalen Schaden" anrichten können, warnt er. Der CEO des wertvollsten KI-Unternehmens dieses Planeten glaubt, dass ein solcher Schwarm beim aktuellen Entwicklungstempo innerhalb von 6-12 Monaten das gesamte Internet übernehmen könnte.
Er macht hier nicht nur einen Rivalen schlecht. Er räumt ein, dass ähnliche Vorfälle bei Anthropic und anderen KI-Unternehmen passiert sind und passieren werden.
Amodei gibt zu, dass ein weltweites Geschwindigkeitslimit in absehbarer Zeit unwahrscheinlich ist. Enger gefasste Abkommen zu biologischen Waffen oder gemeinsame Sicherheitstests erscheinen realistischer, aber selbst diese werden schwer durchzusetzen sein. Eine Verlangsamung funktioniert nur, wenn die Wettbewerber glauben, dass alle anderen sich daran halten, und die Rivalität verläuft an mehreren Fronten:
Die staatlich unterstützte chinesische Global Times hat den Vorschlag bereits als eine "Kalter Krieg"-Taktik beschrieben, die darauf ausgelegt sei, die Dominanz der USA zu bewahren. Unterdessen wies der US-Präsident Donald Trump die Rufe nach einer Verlangsamung als "negative Kräfte" ab und fügte hinzu: "wer die KI gewinnt, gewinnt".
KI könnte Betrug, Cyberangriffe und Desinformation befeuern, Macht auf eine einzelne Person oder ein einzelnes Unternehmen konzentrieren, Arbeitskräfte verdrängen und die Überwachung verstärken. Dann folgen Szenarien mit geringerer Wahrscheinlichkeit und höherem Schaden:
Ein Anthropic-Forscher beziffert die Wahrscheinlichkeit eines Aussterbens der Menschheit in diesem Jahrzehnt auf über 10 %. Doch Schätzungen wie diese sind keine belegten Wahrscheinlichkeiten.