Especialistas pedem segurança em IA semelhante à nuclear

Um novo sistema de inteligência artificial que interfira em redes de comando nuclear ou realize operações cibernéticas pode proporcionar a Washington e Pequim apenas alguns minutos para determinar se foram alvos de um ataque, segundo especialistas em segurança dos dois países. Os profissionais, que participam de um diálogo EUA-China que ajuda a moldar conversas oficiais, instam que ambos os governos se preparem para esses possíveis cenários, especialmente diante da crescente autonomia e potência de tais sistemas. Suas recomendações incluem estabelecer linhas vermelhas claras em relação a sistemas nucleares, garantir que haja controle humano em ciberataques de grande escala e criar um canal direto para situações que envolvam inteligência artificial autônoma. As sugestões foram divulgadas na semana passada, antes das discussões governamentais programadas sobre IA e uma reunião entre o presidente americano, Donald Trump, e o líder chinês, Xi Jinping, marcada para 24 de setembro. As autoras, Melanie Sisson, pesquisadora sênior do Brookings Institution, e Tianjiao Jiang, professora associada da Universidade de Fudan, participaram do diálogo promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. As propostas revelam que a rivalidade EUA-China em IA vai além da concorrência por chips e modelos avançados, abrangendo desafios frequentemente relacionados ao controle de armamentos, como evitar que acidentes sejam confundidos com ataques, restringir decisões militares automatizadas e criar protocolos de comunicação entre potenciais adversários com armamentos nucleares quando a tecnologia age de maneira inesperada. O ministro da Segurança do Estado da China, Chen Yixin, comentou essa semana em um meio oficial que a inteligência artificial "transforma fundamentalmente a maneira como se dará a luta militar". Ele ressaltou que a IA passou de um papel de suporte no campo de batalha a uma função central, citando ataques orientados por inteligência artificial na guerra entre os EUA e Israel contra o Irã. Alerta em relação aos sistemas nucleares Sisson, do Brookings Institution, argumentou que a autorizações para iniciar ciberataques que visem os sistemas de comando e controle de armas nucleares de um país adversário devem permanecer exclusivamente nas mãos de humanos, já que um sistema autônomo pode falhar, seguir instruções incorretas ou ser sabotado, enquanto o país atacado pode não conseguir discernir entre um ataque não intencional ou uma manobra deliberada. Jiang, da Universidade de Fudan, sugeriu linhas vermelhas explícitas para impedir que a IA tome a decisão de usar armas nucleares de forma independente, bem como para proteger infraestruturas essenciais em áreas como energia, finanças e saúde. Além disso, propôs uma definição comum do que seria um "controle humano significativo" para evitar que ambos os países utilizem a mesma terminologia para justificar diferentes graus de autonomia das máquinas. Esta ideia está alinhada com um princípio aceito em novembro de 2024 por Joe Biden, então presidente dos EUA, e Xi Jinping, afirmando que as decisões sobre o uso de armas nucleares devem ser controladas pelos humanos. Lora Saalman, pesquisadora sênior do Instituto Internacional de Pesquisa da Paz de Estocolmo, destacou em fevereiro que esse é um aspecto crucial de convergência entre EUA e China, apesar de ambos os países estarem cada vez mais integrando a IA em sistemas nucleares e energia atômica. Quando as máquinas agem mais rapidamente que os humanos Jiang também sugeriu a criação de uma linha direta militar entre os EUA e a China para gerenciar incidentes relacionados à IA, alertando que as interações cibernéticas automatizadas poderiam rapidamente escalar para situações que exigem intervenção humana. A inteligência artificial defensiva de um país pode reagir automaticamente a comportamentos suspeitos, e o outro lado pode interpretar essa reação como um ataque, levando a uma retaliação antes de compreender o que realmente ocorreu. Uma linha direta permitiria que um governo informasse o outro sobre uma operação de IA que foi acidental, não autorizada ou ainda sob investigação, evitando que fosse tratada como uma ação deliberada. Porém, especialistas, incluindo Carla Freeman da Escola de Estudos Internacionais Avançados da Universidade Johns Hopkins, questionaram a eficácia da atual linha direta de comunicação de crise militar entre EUA e China, citando a recusa das autoridades chinesas em atender chamadas de seus equivalentes americanos no caso do "balão espião" em fevereiro de 2023. Ela observou que a estrutura rígida da burocracia chinesa dificulta a iniciativa de oficiais menos graduados durante intercâmbios com os EUA, afirmando que "ninguém no sistema chinês deseja se comunicar com os Estados Unidos até que a alta liderança, em consulta com atores relevantes do partido-estado, decida sobre uma resposta, o que pode levar dias ou mais". Perspectivas em Washington e Pequim Nenhuma das administrações declarou apoio publicamente às recomendações da Brookings-Tsinghua, mas a China tem integrado cada vez mais a IA nas suas diretrizes de controle de armas. A inteligência artificial é um foco formal no Departamento de Controle de Armas do Ministério das Relações Exteriores, que trata de armas nucleares, proliferação, mísseis e outras questões de segurança internacional. Shen Jian, embaixador da China para assuntos de desarmamento, disse em uma reunião da ONU em Genebra, em junho, que a IA militar pode impactar a estabilidade estratégica e aumentar o risco de erros de cálculo e escaladas de conflitos, enfatizando que as armas devem sempre estar sob controle humano. A China também ponderou que a segurança da IA não deve ser usada como justificativa para medidas protecionistas tecnológicas. Em contrapartida, Washington carece de uma entidade unificada dedicada ao controle de armas concernente à IA, com a política de segurança espalhada por diversas agências, como o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado e o Pentágono. Ambas as nações mantêm uma visão cautelosa em relação a estratégias que possam desacelerar seu próprio avanço tecnológico. Trump recentemente alertou que restrições excessivas poderiam beneficiar a China, enquanto Pequim considera muitos dos controles tecnológicos impostos por Washington como tentativas de manter a dominação americana.