Se o futuro das guerras está marcado por avanços de tecnologias de IA (inteligência artificial), também é natural pensar que a chamada “guerra autônoma” que vemos em filmes como “Exterminador do Futuro” não está tão distante como pensávamos. E isso é preocupante no cenário atual, onde não existem regras claras que definam os limites nos campos de batalha. Sem supervisão humana, a possibilidade de dar as chaves da guerra para um algoritmo leva a cenários impressionantes. Isso é o que uma reunião entre 90 países tentou resolver, e todos chegaram à mesma conclusão, exceto um.
Não deixe a IA controlar o botão
A história começou recentemente durante o encontro da cúpula de Inteligência Artificial Responsável no Domínio Militar, que ocorreu em Seul. Foi a primeira e importante aproximação entre países diante de um problema que temos se aproximando.
As máquinas devem tomar decisões sobre o uso de armas nucleares? Essa foi a grande questão debatida e todos, exceto a China, pareceram concordar: humanos, e não inteligências artificiais, devem tomar decisões chave sobre os usos das armas, conforme acordo na última terça-feira.
Acordo
Os quase cem países – incluindo Estados Unidos, China, Reino Unido, Países Baixos e Ucrânia, adotaram um “Plano de Ação” após 2 dias de conversa. O acordo, que não tem compromisso legal e não foi assinado pela China, afirmou ser essencial “manter controle e participação humana em todas as ações (...) relacionadas ao uso de armas nucleares.”
Além disso, o acordo acrescentou que as capacidades de IA no campo militar “devem ser implementadas de acordo com a aplicação de leis nacionais e internacionais". O uso de IA deve ser ético e focado em humanos.”
O ‘não’ da China
A resposta da China é um sinal do longo caminho pela frente e das tensões geopolíticas da atualidade. Também não houve resposta por parte da Rússia, que, por conta da guerra na Ucrânia, foi banida do encontro. Sendo assim, o uso crescente de sistemas militares baseados em IA em conflitos recentes, assim como o crescimento de sua importância em planos futuros, ressalta a necessidade urgente de avaliar possíveis consequências do uso indevido da tecnologia.
Um exemplo disso é o desenvolvimento e uso não regulamentado de drones nos campos de batalha, onde o limite é o medo de erros de algoritmo, como os que possam resultar em fogo amigo.
Incentivos para participação
Essa é uma outra questão para discussão. Países diretamente envolvidos em conflitos têm pouco incentivo para frear esse desenvolvimento, como demonstrado na guerra entre Rússia e Ucrânia, onde os dois lados têm intensificado o uso de drones para ações com mínima supervisão humana.
Kateryna Bondar, especialista em tecnologias avançadas no Centro para Estudos Estratégicos Internacionais, explicou no encontro que “esses países estão relutantes para impor restrições, já que consideram que a IA militar é uma vantagem crítica. Em termos de sobrevivência nacional, nenhuma declaração ou acordo, não importa quão bem intencionado, vai prevenir um país de fazer o que for necessário para garantir sua própria segurança”, declarou.
Tecnologia está sempre na vanguarda
Uma outra questão discutida no encontro foi a dificuldade de implementação de leis para IA. Neste tópico, Manoj Harjani, coordenador do Programa de Transformações Militares da Escolha de Estudos Internacionais, comentou que “é um jogo constante de pega-pega, em que a tecnologia evolui num ritmo muito maior do que os processos de regulamentação de governos, que geralmente são lentos”.
Nos bastidores: China de novo
Enquanto os Estados Unidos gozam de superioridade militar desde o fim da Guerra Fria, essa vantagem não é tão grande na corrida para liderança em tecnologias de IA e machine learning que poderiam revolucionar a Guerra, e a China desponta no horizonte.
Na verdade, não há dados que sustentem a liderança dos EUA. De acordo com um relatório publicado em agosto pelo Instituto Australiano de Política Estratégica, a China ampliou sua liderança mundial em pesquisa em cerca de 90% de 64 categorias observadas, incluindo análise avançada de dados, algoritmos de IA, machine learning e IA adversária. Além disso, empresas chinesas como Tencent Holdings, Alibaba Group Holdings e Huawei Tecnologias estão no top 10 empresas conduzindo pesquisas em IA.
Conclusão
O encontro não foi decisivo, nem pretendia. Foi uma aproximação em que cada nação fez um movimento revelando parte de suas cartas. Especialistas defendem que, apesar de pequenas chances de um acordo internacional para regularizar a IA militar a curto prazo, tal acordo deve ser de “profunda importância, se possível” para o futuro.
Como Bondar comentou, IA é, em essência, um produto de design humano, “softwares” que podem ser programados para seguir regras”. O problema é que essas regras poderiam muito bem ser convertidas em defeitos ou vinganças entre si. Cabe a nós chegar a um consenso para minimizar e antecipar quaisquer catástrofes necessárias.
Imagem | włodi
Ver 0 Comentários