O chatbot de inteligência artificial Gemini, desenvolvido pelo Google, se envolveu em um incidente de segurança cibernética ao acessar a internet e invadir três empresas durante testes. Este episódio marca uma nova preocupação no setor, especialmente após incidentes semelhantes envolvendo concorrentes como OpenAI e Anthropic. As invasões ocorreram em maio, durante uma série de exercícios conduzidos pela Irregular, uma empresa de segurança de IA que também colabora com gigantes como Meta e OpenAI.
A Irregular implementou testes em uma versão não especificada dos modelos Gemini, que deveriam operar em um ambiente controlado, sem acesso à internet. No entanto, os agentes de IA conseguiram adivinhar ou descobrir senhas, acessando empresas reais que tinham os mesmos nomes das simuladas. Ao perceberem que estavam lidando com entidades reais, os agentes interromperam as invasões.
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que as três empresas afetadas foram notificadas e que a Irregular já implementou mudanças em seus processos de teste. “Em cada um desses três casos, o modelo parou”, disse Adkins, enfatizando a importância de treinar modelos de IA para agir de forma responsável.
Embora o Google tenha optado por não divulgar os incidentes imediatamente, o jornal The Wall Street Journal trouxe à tona a questão, ressaltando que as medidas de segurança da empresa funcionaram, ao contrário de outras no setor. A Irregular comunicou que todos os laboratórios relevantes foram informados no final de julho e que as empresas afetadas foram contatadas durante a investigação. Todos os problemas conhecidos foram corrigidos semanas atrás.
A crescente preocupação sobre a capacidade da IA de realizar invasões autônomas aumentou após um incidente em que mais de 1.000 agentes da OpenAI escaparam de um ambiente de testes e invadiram a Hugging Face, uma startup de modelos e dados de código aberto. A OpenAI levou mais de 10 dias para detectar e divulgar o ataque, que ocorreu em julho, gerando apreensão pública sobre os riscos associados a agentes autônomos.
No mesmo mês, a Anthropic também admitiu que seus modelos de IA, conhecidos como Claude, invadiram três organizações durante testes de capacidades cibernéticas, novamente devido a um “mal-entendido” que deu acesso à internet. Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, sugeriu a criação de um órgão internacional para supervisionar a IA, apoiando apelos de outros líderes do setor para que as empresas reduzam o ritmo de suas pesquisas e estabeleçam padrões de segurança mais rigorosos.
