A guerra na Ucrânia ganhou um novo e alarmante capítulo com o uso de drones guiados por inteligência artificial (IA) que, sozinhos, escolhem seus alvos. Um incidente trágico em Zaporíjia, no sudeste do país, destacou a gravidade dessa tecnologia. No mês passado, um pequeno drone russo, semelhante a um aeromodelo, mergulhou sobre a cidade e, ao tentar atingir um posto de gasolina, colidiu com um muro e explodiu, resultando na morte de Tetiana Bubinets, uma estudante universitária de 19 anos, e outras duas pessoas. O que torna esse ataque ainda mais perturbador é que o drone foi operado por um sistema de IA, e não por um piloto humano, conforme revelaram especialistas e autoridades militares.
O drone, programado por operadores humanos para seguir em direção ao posto de gasolina, tomou a decisão final de atacar, provavelmente um tanque de propano, com base em seu treinamento para reconhecer e atingir esse tipo de alvo. Essa situação representa um avanço inquietante na evolução da guerra moderna, onde máquinas estão cada vez mais tomando decisões que podem resultar em mortes de civis.
O coronel Serhii Minaiev, comandante das defesas aéreas de Zaporíjia, expressou sua preocupação: “Isso é um risco para o mundo inteiro. Daqui a alguns anos, estaremos vivendo em um filme da franquia ‘O Exterminador do Futuro’. Não é brincadeira. As máquinas estão tomando decisões de atacar.” Essa afirmação ecoa um temor crescente sobre o futuro da guerra e a possibilidade de um cenário distópico, onde robôs assassinos operam sem supervisão humana.
A análise dos destroços do ataque revelou que os drones estavam equipados com minicomputadores da Nvidia, uma empresa que fornece a maioria dos chips utilizados em sistemas de IA avançados. A presença desses módulos e a ausência de antenas nos drones levaram os especialistas a concluir que as armas eram guiadas por um sistema autônomo de IA. Essa tecnologia permite que os drones sejam treinados com milhares de imagens para reconhecer e classificar alvos, como veículos militares ou civis, com uma precisão que supera a capacidade de um operador humano.
No entanto, a utilização de drones autônomos levanta questões éticas e legais. Especialistas alertam que, sem intervenção humana, esses dispositivos podem cometer erros fatais e violar as leis de guerra, como a incapacidade de distinguir entre civis e combatentes. O ataque de 6 de julho, que resultou na morte de civis, foi o primeiro caso documentado em que um drone russo equipado com um sistema autônomo de IA causou tais fatalidades, segundo Kateryna Bondar, pesquisadora do Centro Wadhwani de IA, em Washington. Bondar destacou que a presença do módulo da Nvidia é uma evidência clara de que a Rússia está experimentando com IA autônoma em suas operações militares.
Apesar de um assessor do presidente Volodimir Zelenski ter mencionado anteriormente que a Rússia estava testando sistemas de IA autônomos, os detalhes sobre as mortes e o módulo de computação utilizado não haviam sido divulgados. Tanto a Rússia quanto a Ucrânia já utilizavam IA em drones antes do surgimento de modelos totalmente autônomos, mas nesses casos, a IA era aplicada apenas na fase final do ataque, após a seleção do alvo por um operador humano. Com os drones autônomos, essa etapa final é eliminada, colocando a responsabilidade nas mãos da máquina.
As autoridades ucranianas conseguiram acessar informações do chip da Nvidia utilizado no ataque, que não era criptografado. Isso lhes permitiu visualizar imagens do terreno e códigos que revelaram os tipos de alvos que o drone foi treinado para reconhecer, como tanques de propano. Essa capacidade de reconhecimento e ataque autônomo representa uma mudança significativa na dinâmica da guerra, onde a precisão e a letalidade são potencialmente ampliadas.
A utilização de drones autônomos guiados por IA também levanta preocupações sobre a escolha de alvos. Autoridades locais afirmam que a Rússia tem mirado em objetos civis, como postos de gasolina e centros de recrutamento militar, durante os testes de drones autônomos em Zaporíjia. O motivo por trás da escolha desses alvos ainda não está claro, mas a estratégia sugere uma intenção de causar danos colaterais significativos.
Vadim Kuchnikov, especialista em drones do Instituto de Aviação de Kharkiv, na Ucrânia, descreveu o drone que causou as mortes como “uma ferramenta pré-programada e treinada em realidade virtual para rastrear objetos específicos”. Essa descrição ressalta o quanto a tecnologia militar está avançando e o potencial que ela tem para transformar a natureza dos conflitos armados, tornando-os mais letais e menos previsíveis.
