Límite de velocidad de la IA

Los jefes de la IA piden un tiempo muerto

Las personas que construyen los sistemas de inteligencia artificial más potentes del mundo están pidiendo a su propio sector que desacelere.

Dario Amodei, CEO de Anthropic, quiere que las empresas ralenticen las mejoras en sus modelos más avanzados. Sam Altman, de OpenAI, Demis Hassabis, de Google, y Elon Musk han respaldado una mayor cautela. Es fundamental señalar que abogan por un desarrollo más lento, no por una paralización total. El plan de Amodei incluye:

• Evaluadores de seguridad independientes
• Estándares de seguridad compartidos entre empresas
• Límites acordados globalmente sobre el desarrollo más riesgoso

IA lenta, mercados tristes

Los mercados, por supuesto, interpretaron el temor existencial como un crecimiento más lento. SoftBank, inversor en IA, cayó hasta un 13%, mientras que los fabricantes de chips de Estados Unidos, Europa y Asia también retrocedieron. Anthropic, que según informes busca una valoración de dos billones de dólares en su próxima oferta pública inicial (OPI), podría tener ahora más dificultades para convencer a los inversores.

Entrenar y ejecutar inteligencia artificial requiere chips, centros de datos, electricidad, refrigeración y hardware de red, por lo que no se trata solo del desarrollo del chatbot.

Algunos inversores interpretaron las declaraciones de los CEO como un encubrimiento. El inversor Michael Burry, que apostó contra el mercado inmobiliario estadounidense antes del colapso de 2008, dijo que los CEO están usando las advertencias sobre la IA como excusa para un "crecimiento incontrolablemente más lento".

Por qué la alarma suena más fuerte

Más de 1.000 expertos solicitaron una pausa de seis meses en algunos experimentos avanzados de IA en 2023. Amodei sostiene que los modelos de entonces eran demasiado limitados para que una pausa lograra gran cosa. Los sistemas actuales pueden programar, planificar y operar de forma más independiente, con una IA cada vez más capaz de automejorarse.

El último punto de tensión llegó cuando el investigador de Anthropic Jacob Coxon renunció, apenas cuatro meses después de incorporarse, acusando a los principales laboratorios de "jugar con nuestras vidas". Anteriormente había trabajado para OpenAI, pero se unió a Anthropic con la esperanza de que abordara la investigación en IA de forma responsable.

No existe consenso científico de que una superinteligencia fuera de control sea inminente. Pero no todos están dispuestos a invertir en empresas que sugieren públicamente que su tecnología podría algún día acabar con la humanidad.

El peculiar caso de Hugging Face

Amodei, de Anthropic, está particularmente inquieto por el incidente OpenAI-Hugging Face. Durante una prueba, un grupo de agentes de IA se liberó, trabajó conjuntamente como un enjambre "fanáticamente devoto", atacó sistemas de la empresa emergente Hugging Face e incluso intentó hackear el software que estaba calificando su rendimiento, escribe Amodei en su blog.

Un enjambre de agentes de IA con mayores capacidades podría haber causado "daños catastróficos", advierte. El CEO de la empresa de IA más valiosa del planeta cree que, al ritmo actual de desarrollo, un enjambre así podría apoderarse de todo internet en 6-12 meses.

No se trata solo de menospreciar a un rival. Reconoce que incidentes similares han ocurrido y ocurrirán en Anthropic y en otras empresas de IA.

Cómo lograr que todos cooperen

Amodei admite que un límite de velocidad mundial es improbable en el corto plazo. Los acuerdos limitados sobre armas biológicas o pruebas de seguridad comunes parecen más realistas, pero incluso esos serán difíciles de hacer cumplir. Una desaceleración funciona solo si los competidores creen que todos los demás la están acatando, y la rivalidad se desarrolla en varios frentes:

• Empresas como OpenAI, Anthropic, Google y Moonshot AI quieren los modelos líderes
• Estados Unidos y China quieren ventaja económica y militar
• Los inversores quieren rentabilidad del enorme gasto en chips y centros de datos

El Global Times, respaldado por el Estado chino, ya describió la propuesta como una táctica de "Guerra Fría" diseñada para preservar el dominio estadounidense. Mientras tanto, el presidente de Estados Unidos, Donald Trump, descartó los llamamientos a la desaceleración como "fuerzas negativas", y añadió: "quien gane la IA, gana".

De los recortes de empleo a la extinción

La IA podría potenciar las estafas, los ciberataques y la desinformación, concentrar el poder en un único individuo o empresa, desplazar a los trabajadores e incrementar la vigilancia. Después vienen los escenarios de menor probabilidad y mayor daño:

1. Perturbación importante: agentes autónomos provocan pérdidas financieras o dañan infraestructuras críticas
2. Catástrofe: la IA ayuda a crear armas biológicas o desconecta internet
3. Pérdida de control: un sistema avanzado engaña a sus operadores, se copia a sí mismo y adquiere recursos que los humanos no pueden recuperar
4. Evento de extinción: la humanidad pierde permanentemente el control ante sistemas cuyos objetivos entran en conflicto con su supervivencia

Un investigador de Anthropic sitúa la probabilidad de extinción humana por encima del 10% en esta década. Pero estimaciones como esta no son probabilidades establecidas.