A Anthropic, laboratório de inteligência artificial, divulgou um relatório na última quinta-feira (10) que revela o uso de seu chatbot Claude em atividades ilícitas, incluindo desenvolvimento de armas, operações de espionagem e fraudes. O documento destaca uma série de incidentes preocupantes que envolvem usuários de diferentes países, como China, Rússia e Iémen, utilizando a tecnologia para fins nefastos.
Entre os casos mais notáveis, a Anthropic menciona um usuário na China que empregou o Claude para criar um software de guerra eletrônica, visando a supressão de defesas aéreas. Este projeto incluiu a simulação de alvos em Taiwan, como radares e bases aéreas, e foi ligado à Academia de Ciências Militares do Exército Popular de Libertação, resultando na suspensão da conta do usuário.
Outro incidente envolve o desenvolvimento de um sistema antitorpedos para a Marinha chinesa, onde um agente também utilizou o Claude para aprimorar suas propostas técnicas. A empresa identificou ligações desse usuário a um fabricante da indústria militar do país.
A pesquisa sobre armas de micro-ondas também foi citada, com um agente na China utilizando o Claude para rastrear componentes e fornecedores, além de desenvolver contramedidas. A Anthropic destacou que o usuário buscava informações para engenharia reversa de tecnologias estrangeiras.
No Iémen, um grupo mal intencionado recorreu ao Claude para desenvolver software para um míssil balístico com alcance superior a 2.000 quilômetros, embora a empresa tenha afirmado que suas salvaguardas bloquearam a maioria das solicitações feitas por esse grupo.
A utilização do Claude por agentes na Rússia também foi revelada, com o desenvolvimento de software para drones autônomos, essenciais na guerra da Ucrânia. A Anthropic ainda relatou que um gerente de compras russo utilizou a ferramenta para identificar intermediários na China, visando a aquisição de produtos com possíveis aplicações militares.
Além disso, a empresa documentou tentativas de uso de seus modelos para apoiar o desenvolvimento de armas biológicas, com solicitações para pesquisa sobre modificações genéticas de vírus e toxinas.
A Anthropic também reportou operações digitais realizadas por grupos de hackers, que utilizaram IA para realizar ataques de phishing e invasões em contas de WhatsApp, focando em alvos governamentais e militares na Ucrânia. Esses métodos foram associados a um agente de ameaças conhecido como Midnight Blizzard, supostamente vinculado ao serviço de inteligência russo.
Por fim, a empresa identificou um operador ligado ao Irã que utilizava o Claude para coletar dados sobre forças navais dos EUA, além de um usuário na Síria que buscava recrutar uigures, oferecendo compensações em troca de informações. O relatório da Anthropic destaca a necessidade de vigilância e regulação no uso de inteligência artificial, evidenciando os riscos associados ao uso indevido dessa tecnologia.
