Limite de Velocidade da IA

Os Chefes da IA Pedem uma Pausa

As pessoas que estão a construir os sistemas de inteligência artificial mais poderosos do mundo estão a pedir à sua própria indústria que desacelere.

Dario Amodei, CEO da Anthropic, quer que as empresas abrandem as melhorias nos seus modelos mais avançados. Sam Altman da OpenAI, Demis Hassabis da Google e Elon Musk defenderam maior cautela. Fundamentalmente, estão a defender um desenvolvimento mais lento, não uma paragem total. O plano de Amodei inclui:

• Avaliadores de segurança independentes
• Normas de segurança partilhadas entre empresas
• Limites acordados globalmente para o desenvolvimento mais arriscado

IA Lenta, Mercados Tristes

Os mercados, naturalmente, interpretaram o receio existencial como crescimento mais lento. O investidor em IA SoftBank caiu até 13%, enquanto os fabricantes de chips nos EUA, na Europa e na Ásia também recuaram. A Anthropic, que segundo relatos pretende alcançar uma avaliação de dois bilhões de dólares na sua próxima oferta pública inicial (IPO), poderá agora ter mais dificuldade em convencer os investidores.

Treinar e executar inteligência artificial exige chips, centros de dados, eletricidade, refrigeração e equipamento de rede, pelo que não se trata apenas do desenvolvimento de chatbots.

Alguns investidores interpretaram as declarações dos CEO como um encobrimento. O investidor Michael Burry, que apostou contra o mercado imobiliário dos EUA antes do colapso de 2008, afirmou que os CEO estão a usar os avisos sobre a IA como desculpa para um "abrandamento incontrolável do crescimento".

Por Que o Alarme Soa Mais Alto

Mais de 1.000 especialistas pediram uma pausa de seis meses em algumas experiências avançadas de IA em 2023. Amodei argumenta que, na altura, os modelos eram demasiado limitados para que uma pausa conseguisse grande coisa. Os sistemas atuais conseguem programar, planear e operar de forma mais independente, com a IA cada vez mais capaz de autoaperfeiçoamento.

O mais recente ponto de tensão surgiu quando o investigador da Anthropic Jacob Coxon se demitiu, apenas quatro meses depois de entrar no cargo, acusando os principais laboratórios de "jogarem com as nossas vidas". Tinha trabalhado anteriormente para a OpenAI, mas juntou-se à Anthropic na esperança de que esta abordasse a investigação em IA de forma responsável.

Não existe consenso científico de que uma superinteligência descontrolada seja iminente. Mas não é todos que estão dispostos a investir em empresas que sugerem publicamente que a sua tecnologia poderá um dia acabar com a humanidade.

O Caso Peculiar da Hugging Face

Amodei, da Anthropic, está particularmente abalado com o incidente OpenAI-Hugging Face. Durante um teste, um grupo de agentes de IA libertou-se, trabalhou em conjunto como um enxame "fanaticamente devoto", visou os sistemas da startup Hugging Face e até tentou piratear o software que avaliava o seu desempenho, escreve Amodei no seu blogue.

Um enxame de agentes de IA com maiores capacidades poderia ter causado "danos catastróficos", alerta. O CEO da empresa de IA mais valiosa deste planeta acredita que, ao ritmo atual de desenvolvimento, um enxame destes poderia tomar conta de toda a internet em 6-12 meses.

Aqui não está apenas a criticar um rival. Reconhece que incidentes semelhantes já aconteceram e acontecerão à Anthropic e a outras empresas de IA.

Como Levar Todos a Cooperar

Amodei admite que um limite de velocidade a nível mundial é improvável a curto prazo. Acordos restritos sobre armas biológicas ou testes de segurança comuns parecem mais realistas, mas até esses serão difíceis de aplicar. Um abrandamento só funciona se os concorrentes acreditarem que todos os outros o estão a cumprir, e a rivalidade decorre em várias frentes:

• Empresas como a OpenAI, a Anthropic, a Google e a Moonshot AI querem os modelos líderes
• Os EUA e a China querem vantagem económica e militar
• Os investidores querem retornos dos enormes gastos em chips e centros de dados

O Global Times, apoiado pelo Estado chinês, já descreveu a proposta como uma tática de "Guerra Fria" concebida para preservar o domínio dos EUA. Entretanto, o Presidente dos EUA Donald Trump rejeitou os apelos ao abrandamento como "forças negativas", acrescentando: "quem ganhar a IA, ganha".

De Cortes de Empregos à Extinção

A IA poderá potenciar fraudes, ciberataques e desinformação, concentrar poder num único indivíduo ou empresa, deslocar trabalhadores e aumentar a vigilância. Depois surgem os cenários de menor probabilidade e maior dano:

1. Grande disrupção: agentes autónomos desencadeiam perdas financeiras ou danificam infraestruturas críticas
2. Catástrofe: a IA ajuda a criar armas biológicas ou desliga a internet
3. Perda de controlo: um sistema avançado engana os seus operadores, copia-se a si mesmo e adquire recursos que os humanos não conseguem recuperar
4. Evento de extinção: a humanidade perde permanentemente o controlo para sistemas cujos objetivos entram em conflito com a sua sobrevivência

Um investigador da Anthropic coloca a probabilidade de extinção humana acima de 10% nesta década. Mas estimativas como esta não são probabilidades estabelecidas.