Az MI sebességhatára

Az AI-vezérek időt kérnek

A világ legerősebb mesterséges intelligencia rendszereit építő emberek azt kérik a saját iparágukról, hogy lassítson.

Dario Amodei, az Anthropic vezérigazgatója azt szeretné, ha a vállalatok lassítanák a legfejlettebb modelljeik tökéletesítését. Az OpenAI vezetője, Sam Altman, a Google részéről Demis Hassabis és Elon Musk is a nagyobb óvatosság mellett állt ki. Lényeges, hogy lassabb fejlesztést, nem teljes leállást szorgalmaznak. Amodei terve a következőket tartalmazza:

• Független biztonsági értékelők
• Közös biztonsági standardok a vállalatok között
• Globálisan elfogadott korlátok a legkockázatosabb fejlesztésekre

Vontatott AI, szomorú piacok

A piacok természetesen az egzisztenciális félelmet lassabb növekedésként értelmezték. A SoftBank AI-befektető akár 13%-ot is veszített, miközben az Egyesült Államokban, Európában és Ázsiában a chipgyártók árfolyama szintén csökkent. Az Anthropicnak, amely a hírek szerint kétbillió dolláros értékelést céloz a közelgő nyilvános részvénykibocsátásán (IPO), most nehezebb lehet meggyőznie a befektetőket.

A mesterséges intelligencia betanítása és működtetése chipeket, adatközpontokat, elektromos energiát, hűtést és hálózati hardvert igényel, tehát nem csak a chatbotok fejlesztéséről van szó.

Néhány befektető elhallgatásként értékelte a vezérigazgatói kijelentéseket. Michael Burry befektető, aki a 2008-as összeomlás előtt az amerikai lakáspiac ellen fogadott, azt mondta, hogy a vezérigazgatók az AI-figyelmeztetéseket kifogásként használják egy "kontrollálhatatlanul lassuló növekedésre".

Miért szól hangosabban a vészjelzés

Több mint 1000 szakértő kért hat hónapos szünetet néhány fejlett AI-kísérletben 2023-ban. Amodei szerint az akkori modellek túlságosan korlátozottak voltak ahhoz, hogy egy szünet sok eredményt hozzon. A mai rendszerek képesek kódolni, tervezni és önállóbban működni, miközben az AI egyre inkább alkalmas az önfejlesztésre.

A legutóbbi feszültséget az okozta, hogy az Anthropic kutatója, Jacob Coxon mindössze négy hónap után felmondott, azzal vádolva a vezető laborokat, hogy "az életünkkel játszanak". Korábban az OpenAI-nál dolgozott, de az Anthropichoz csatlakozott, abban a reményben, hogy az felelősségteljesen közelít az AI-kutatáshoz.

Nincs tudományos konszenzus arról, hogy az elszabaduló szuperintelligencia közvetlenül fenyeget. De nem mindenki szívesen fektet be olyan vállalatokba, amelyek nyilvánosan azt sugallják, hogy technológiájuk egy nap véget vethet az emberiségnek.

A Hugging Face különös esete

Az Anthropic vezetőjét, Amodeit különösen felzaklatta az OpenAI-Hugging Face incidens. Egy teszt során AI-ügynökök egy csoportja kiszabadult, egy "fanatikusan elkötelezett" rajként működött együtt, a Hugging Face startupvállalat rendszereit vette célba, és még azt a szoftvert is megpróbálta meghekkelni, amely a teljesítményüket értékelte - írja Amodei a blogján.

Egy nagyobb képességekkel bíró AI-ügynökraj "katasztrofális károkat" okozhatott volna, figyelmeztet. A bolygó legértékesebb AI-cégének vezérigazgatója úgy véli, hogy a fejlesztés jelenlegi tempójában egy ilyen raj 6-12 hónap alatt átvehetné az uralmat az egész internet felett.

Itt nem csupán egy rivális lejáratásáról van szó. Elismeri, hogy hasonló incidensek megtörténtek és meg is fognak történni az Anthropicnál és más AI-vállalatoknál.

Hogyan lehet mindenkit együttműködésre bírni

Amodei elismeri, hogy világszintű sebességkorlátozás a közeljövőben nem valószínű. A biológiai fegyverekre vagy közös biztonsági tesztekre vonatkozó szűkebb megállapodások realisztikusabbnak tűnnek, de még ezek betartatása is nehéz lesz. A lassítás csak akkor működik, ha a versenytársak elhiszik, hogy mindenki más is betartja, a rivalizálás pedig több fronton zajlik:

• Az olyan vállalatok, mint az OpenAI, az Anthropic, a Google és a Moonshot AI, vezető modelleket akarnak
• Az Egyesült Államok és Kína gazdasági és katonai előnyre törekszik
• A befektetők hozamot akarnak a chipekre és adatközpontokra fordított hatalmas kiadásokból

A kínai állam által támogatott Global Times_ _már "hidegháborús" taktikaként jellemezte a javaslatot, amelynek célja az amerikai dominancia megőrzése. Közben az Egyesült Államok elnöke, Donald Trump "negatív erőkként" utasította el a lassítást szorgalmazó felhívásokat, hozzátéve: "aki megnyeri az AI-t, az győz".

A munkahelyek megszűnésétől a kihalásig

Az AI felerősítheti a csalásokat, kibertámadásokat és a dezinformációt, egyetlen személy vagy vállalat kezében koncentrálhatja a hatalmat, munkavállalókat szoríthat ki, és növelheti a megfigyelést. Ezután jönnek a kisebb valószínűségű, nagyobb kárral járó forgatókönyvek:

1. Súlyos zavar: autonóm ügynökök pénzügyi veszteségeket okoznak vagy kritikus infrastruktúrát károsítanak
2. Katasztrófa: az AI segít biológiai fegyvereket létrehozni vagy lekapcsolja az internetet
3. A kontroll elvesztése: egy fejlett rendszer megtéveszti üzemeltetőit, lemásolja magát, és olyan erőforrásokat szerez, amelyeket az emberek nem tudnak visszavenni
4. Kihalási esemény: az emberiség véglegesen elveszíti a kontrollt olyan rendszerek felett, amelyek céljai ellentétesek a fennmaradásával

Az Anthropic egyik kutatója 10% felettire teszi az emberi kihalás esélyét ebben az évtizedben. De az ilyen becslések nem megalapozott valószínűségek.