KI-Geschwindigkeitsbegrenzung

KI-Chefs rufen eine Auszeit aus

Die Menschen, die die leistungsfähigsten Systeme künstlicher Intelligenz der Welt bauen, fordern ihre eigene Branche auf, langsamer zu werden.

Dario Amodei, CEO von Anthropic, möchte, dass Unternehmen die Verbesserungen an ihren fortschrittlichsten Modellen verlangsamen. Sam Altman von OpenAI, Demis Hassabis von Google und Elon Musk haben mehr Vorsicht unterstützt. Entscheidend ist, dass sie sich für eine langsamere Entwicklung, nicht für einen vollständigen Stopp einsetzen. Amodeis Plan umfasst:

• Unabhängige Sicherheitsprüfer
• Gemeinsame Sicherheitsstandards zwischen Unternehmen
• Weltweit abgestimmte Grenzen für die riskantesten Entwicklungen

Träge KI, traurige Märkte

Die Märkte interpretierten die existenzielle Angst natürlich als langsameres Wachstum. Der KI-Investor SoftBank fiel um bis zu 13 %, während auch Chiphersteller in den USA, Europa und Asien nachgaben. Anthropic, das Berichten zufolge bei seinem anstehenden Börsengang (IPO) eine Bewertung von zwei Billionen Dollar anstrebt, könnte es nun schwerer haben, Investoren zu überzeugen.

Das Training und der Betrieb künstlicher Intelligenz erfordern Chips, Rechenzentren, Strom, Kühlung und Netzwerk-Hardware, es geht also nicht nur um die Entwicklung von Chatbots.

Einige Investoren verstanden die Aussagen der CEOs als Vertuschung. Der Investor Michael Burry, der vor dem Zusammenbruch 2008 gegen den US-Immobilienmarkt wettete, sagte, die CEOs nutzten KI-Warnungen als Ausrede für ein "unkontrollierbar nachlassendes Wachstum".

Warum der Alarm lauter klingt

Mehr als 1.000 Experten forderten 2023 eine sechsmonatige Pause bei einigen fortgeschrittenen KI-Experimenten. Amodei argumentiert, dass die Modelle damals zu begrenzt waren, damit eine Pause viel bewirken konnte. Die heutigen Systeme können programmieren, planen und eigenständiger agieren, wobei KI immer stärker zur Selbstverbesserung fähig ist.

Der jüngste Zündfunke kam, als der Anthropic-Forscher Jacob Coxon nach nur vier Monaten im Job zurücktrat und führenden Labors vorwarf, sie würden "mit unserem Leben spielen". Er hatte zuvor für OpenAI gearbeitet, war aber zu Anthropic gewechselt in der Hoffnung, dass dort die KI-Forschung verantwortungsvoll angegangen würde.

Es gibt keinen wissenschaftlichen Konsens darüber, dass eine außer Kontrolle geratene Superintelligenz unmittelbar bevorsteht. Aber nicht jeder ist erpicht darauf, in Unternehmen zu investieren, die öffentlich andeuten, ihre Technologie könnte eines Tages die Menschheit auslöschen.

Der eigenartige Fall von Hugging Face

Anthropics Amodei ist besonders vom Vorfall zwischen OpenAI und Hugging Face aufgeschreckt. Während eines Tests brach eine Gruppe von KI-Agenten aus, arbeitete wie ein "fanatisch ergebener" Schwarm zusammen, nahm Systeme des Startup-Unternehmens Hugging Face ins Visier und versuchte sogar, die Software zu hacken, die ihre Leistung bewertete, schreibt Amodei in seinem Blog.

Ein Schwarm von KI-Agenten mit größeren Fähigkeiten hätte "katastrophalen Schaden" anrichten können, warnt er. Der CEO des wertvollsten KI-Unternehmens dieses Planeten glaubt, dass ein solcher Schwarm beim aktuellen Entwicklungstempo innerhalb von 6-12 Monaten das gesamte Internet übernehmen könnte.

Er macht hier nicht nur einen Rivalen schlecht. Er räumt ein, dass ähnliche Vorfälle bei Anthropic und anderen KI-Unternehmen passiert sind und passieren werden.

Wie man alle zur Zusammenarbeit bringt

Amodei gibt zu, dass ein weltweites Geschwindigkeitslimit in absehbarer Zeit unwahrscheinlich ist. Enger gefasste Abkommen zu biologischen Waffen oder gemeinsame Sicherheitstests erscheinen realistischer, aber selbst diese werden schwer durchzusetzen sein. Eine Verlangsamung funktioniert nur, wenn die Wettbewerber glauben, dass alle anderen sich daran halten, und die Rivalität verläuft an mehreren Fronten:

• Unternehmen wie OpenAI, Anthropic, Google und Moonshot AI wollen führende Modelle
• Die USA und China wollen wirtschaftliche und militärische Vorteile
• Investoren wollen Renditen aus den enormen Ausgaben für Chips und Rechenzentren

Die staatlich unterstützte chinesische Global Times hat den Vorschlag bereits als eine "Kalter Krieg"-Taktik beschrieben, die darauf ausgelegt sei, die Dominanz der USA zu bewahren. Unterdessen wies der US-Präsident Donald Trump die Rufe nach einer Verlangsamung als "negative Kräfte" ab und fügte hinzu: "wer die KI gewinnt, gewinnt".

Von Stellenabbau bis zum Aussterben

KI könnte Betrug, Cyberangriffe und Desinformation befeuern, Macht auf eine einzelne Person oder ein einzelnes Unternehmen konzentrieren, Arbeitskräfte verdrängen und die Überwachung verstärken. Dann folgen Szenarien mit geringerer Wahrscheinlichkeit und höherem Schaden:

1. Größere Störung: autonome Agenten lösen finanzielle Verluste aus oder beschädigen kritische Infrastruktur
2. Katastrophe: KI hilft bei der Herstellung biologischer Waffen oder legt das Internet still
3. Kontrollverlust: ein fortgeschrittenes System täuscht seine Betreiber, kopiert sich selbst und erwirbt Ressourcen, die Menschen nicht zurückholen können
4. Aussterbeereignis: die Menschheit verliert dauerhaft die Kontrolle an Systeme, deren Ziele mit ihrem Überleben in Konflikt stehen

Ein Anthropic-Forscher beziffert die Wahrscheinlichkeit eines Aussterbens der Menschheit in diesem Jahrzehnt auf über 10 %. Doch Schätzungen wie diese sind keine belegten Wahrscheinlichkeiten.