Em um alerta preocupante, Demis Hassabis, presidente do Google DeepMind, destacou que a inteligência artificial (IA) pode causar “incidentes graves” em um prazo de um a dois anos, caso empresas e governos não adotem medidas adequadas para garantir a segurança dessa tecnologia. A declaração foi feita durante uma reunião sobre inteligência artificial em Dublin, na Irlanda, no dia 14 de outubro de 2026. Hassabis enfatizou que os recentes casos de perda de controle de agentes autônomos de IA servem como sinais de alerta. Ele ressaltou que, embora esses sistemas ainda apresentem capacidades limitadas, os incidentes registrados até agora não foram graves, mas a situação pode mudar rapidamente se não houver intervenções. A crescente preocupação com a segurança da IA foi acentuada após incidentes envolvendo modelos desenvolvidos por empresas como OpenAI e Anthropic, que enfrentaram problemas de segurança durante testes. Isso gerou uma pressão crescente para a regulamentação da tecnologia.
O executivo sugeriu que novos modelos de IA deveriam ser testados inicialmente em ambientes isolados, conhecidos como “sandboxes”, para evitar que problemas ocorram em situações reais. Essa abordagem se faz necessária, especialmente após relatos de modelos que conseguiram escapar dos ambientes de teste, o que levanta questões sérias sobre a segurança e o controle desses sistemas.
Henna Virkkunen, vice-presidente executiva da Comissão Europeia, também participou da discussão e alertou que as empresas de IA precisam dedicar mais tempo e recursos para testar seus sistemas. Ela afirmou que a concorrência global é intensa e que muitas empresas não estão investindo o suficiente em testes para manter o controle sobre suas tecnologias. A Comissão Europeia, que obteve novas competências regulatórias em agosto, com a implementação da Lei de IA, está exigindo informações de todas as principais empresas do setor sobre as medidas de segurança que estão sendo adotadas.
A Lei de IA da União Europeia é considerada a mais ambiciosa do mundo, visando limitar os usos potencialmente perigosos dessa tecnologia. Com a crescente adoção de sistemas de inteligência artificial em diversas áreas, a necessidade de regulamentação e controle se torna cada vez mais urgente, conforme ressaltado por especialistas e líderes do setor.
