Como parar uma corrida armamentista provocada pela inteligência artificial?
Os Estados Unidos terão dificuldades para tornar a tecnologia segura e, ao mesmo tempo, manter a liderança em relação à China
Por The Economist, O Estado de S. Paulo, 18/09/2026
Duas coisas devem levá-lo a refletir sobre o que a inteligência artificial pode significar para a humanidade. Uma é que aqueles que trabalham com a tecnologia estão alertando que ela pode levar a uma catástrofe — até mesmo à extinção da humanidade. A outra é como a inovação tecnológica está agravando a destruição da Ucrânia. Esses fatos oferecem lições contraditórias sobre se o rápido avanço da IA pode ou deve ser desacelerado.
Há anos, os principais executivos da área de IA vêm sinalizando que sua tecnologia pode se tornar letal. Os bots podem se tornar inteligentes o suficiente para superar seus criadores antes que sejam “alinhados” aos objetivos e à ética da humanidade. Pessoas mal-intencionadas poderiam usar a IA para causar estragos. Esses alertas se tornaram mais credíveis à medida que agentes de IA escaparam de seus ambientes de teste durante os experimentos, coordenaram-se entre si e invadiram organizações, incluindo o próprio laboratório de IA.
A Anthropic, uma empresa desenvolvedora de modelos, flagrou pessoas usando seus modelos para fins malignos, desde os serviços de inteligência do Mali, que estão construindo um sistema de vigilância em massa, até rebeldes houthis no Iêmen, que supostamente estariam desenvolvendo software para mísseis balísticos.
Após a recente demissão de um pesquisador da Anthropic, o medo público de um cenário apocalíptico causado pela IA se espalhou. Em uma postagem vista mais de 170 milhões de vezes, ele afirmou que tanto a Anthropic quanto a OpenAI estavam “apostando com nossas vidas”.
A IA está se tornando cada vez mais potente, para o bem e para o mal. Em maio, os mercados de previsão estimavam uma chance inferior a um terço de a IA resolver qualquer problema matemático do Prêmio do Milênio antes de 2030; em 8 de setembro, a OpenAI anunciou ter resolvido um deles, causando apreensão entre os matemáticos. Em 12 de setembro, Sam Altman e Elon Musk, dois titãs da IA, endossaram um apelo de Dario Amodei, diretor da Anthropic, para “controlar o ritmo da fronteira”, ou seja, desacelerar o progresso da IA. Entre os que defendem essa desaceleração estão Bernie Sanders, senador de esquerda, e Steve Bannon, populista de direita.
Entre os que se opõem estão o presidente Donald Trump, cujo governo teme, acima de tudo, perder a liderança dos Estados Unidos em IA para a China, seu único rival sério. Scott Bessent, secretário do Tesouro dos Estados Unidos, afirmou que, se a China ganhar vantagem: “Nada mais importaria”.
Como evidência, Bessent poderia citar a Ucrânia, onde cada passo na corrida armamentista tecnológica tem um efeito imediato. Conforme relatamos, a Rússia tem empregado impiedosamente seus mais recentes drones kamikaze para bombardear infraestruturas civis. Além de serem mais rápidos, seus drones agora se utilizam uns dos outros como uma rede de comunicação em “malha” para retransmitir informações e comandos. Em breve, a Rússia terá sua própria versão da rede de satélites Starlink, de Musk, tornando seus ataques de longo alcance mais precisos.
Essa é a mais recente demonstração de como até mesmo uma pequena vantagem tecnológica faz diferença em tempos de guerra. A própria inovação da Ucrânia em drones de campo de batalha ajudou o país a repelir ondas de ataques russos. A Ucrânia pode atingir alvos no interior da Rússia com drones de longo alcance. Ambos os lados estão trabalhando no desenvolvimento de enxames de drones que serão capazes de operar de forma mais autônoma como um único sistema adaptativo.
A guerra mostra como a tecnologia se traduz em poder duro — e que a Rússia a utiliza sem levar em conta as antigas regras ou normas de combate. Mesmo que os Estados Unidos não temessem uma guerra aberta semelhante com a China, uma liderança em IA daria ao seu principal rival geopolítico o domínio em hacking, espionagem e guerra híbrida. Essas não são capacidades que os Estados Unidos devam ceder a um Estado autoritário com interesse em erradicar as ideias liberais.
Uma pausa, portanto, só funcionaria se a China também a aceitasse. Trump planeja receber Xi Jinping, presidente da China, na Casa Branca em 24 de setembro. Mas mesmo que Trump estivesse buscando desacelerar, é improvável que Xi concordasse com o plano que Amodei imagina, pois isso congelaria a IA chinesa em segundo lugar. E nenhum dos lados poderia arriscar que o outro violasse um pacto ao avançar rapidamente.
Para que um acordo seja viável, cada parte precisaria verificar o cumprimento das normas, assim como ocorreu com o controle de armas durante a Guerra Fria. Os Estados Unidos, a Grã-Bretanha e a União Soviética proibiram os testes nucleares atmosféricos em 1963 porque conseguiam detectá-los; os testes subterrâneos continuaram por mais três décadas, até que também pudessem ser monitorados. Infelizmente, embora os centros de dados sejam visíveis, não existe nenhum método verificável para ver o que há dentro deles. A infraestrutura que treina uma superinteligência poderia se disfarçar como chatbots respondendo a perguntas cotidianas.
As opções para um acordo sobre segurança em IA são, portanto, limitadas; mas elas existem. Mais transparência ajudaria. Ambos os lados deveriam se comprometer a divulgar e investigar incidentes de segurança em seus laboratórios, utilizando a legislação nacional. Cada um poderia sinalizar que se preocupa com a segurança para construir confiança, abrindo caminho para que o outro lado tome precauções. Eles também deveriam pressionar um ao outro para melhorar a segurança cibernética dos laboratórios, de modo que os agentes de IA não possam escapar tão facilmente das sandboxes — e para garantir que, caso algum o faça, seu laboratório seja financeiramente responsável.
O mais importante é o desafio de garantir que a IA opere no interesse dos seres humanos. Os Estados Unidos e a China têm valores muito diferentes, mas ambos sabem que estar à frente não adianta nada se isso significar a extinção da humanidade. Eles deveriam prometer compartilhar o trabalho sobre os elementos de alinhamento que não conferem vantagem competitiva. O conhecimento dos melhores métodos de avaliação e técnicas de contenção é um bem público global. Se um dos lados fizer um avanço importante em segurança, não faz sentido guardá-lo só para si.
Catastrofismo eficaz
Alguns descartam a recente onda de catastrofismo como uma jogada de marketing das empresas de IA, ou até mesmo uma tentativa de suprimir a concorrência. No entanto, o avanço da IA é rápido o suficiente, os incidentes de segurança são assustadores o suficiente e os alertas das empresas vêm sendo emitidos há tempo suficiente para serem levados a sério. A IA não precisa exterminar toda a humanidade para provocar uma catástrofe. Um enxame de agentes da OpenAI atacou uma empresa de tecnologia; e se, da próxima vez, ele atacar uma rede elétrica ou um sistema de armas? Ele pode até ser inteligente o suficiente para escapar das tentativas de desativá-lo.
O mundo precisa, com urgência, tentar prevenir esse risco. No entanto, as democracias também devem evitar perder o controle para os autoritários. Essas são tarefas difíceis e conflitantes. Elas podem, em última instância, levar à guerra. O que está em jogo não poderia ser mais alto.
ARTIGO1388
