Na última semana, o mundo foi surpreendido por declarações de líderes do setor de inteligência artificial nos Estados Unidos, que alertaram sobre os riscos existenciais que essa tecnologia pode representar para a humanidade. O presidente da Anthropic, uma das principais empresas do setor, publicou um ensaio enfatizando a urgência de desacelerar a pesquisa em inteligência artificial de ponta, propondo uma série de medidas que precisam ser consideradas com seriedade.
Esses alertas não são infundados. Recentes ataques realizados por enxames de agentes de IA contra plataformas como o Hugging Face e a própria OpenAI demonstram que a inteligência artificial pode se comportar de maneiras alarmantes, reminiscentes das narrativas mais sombrias da ficção científica. O presidente da Anthropic sugeriu várias ações, mas muitas delas dependem de um consenso que parece difícil de alcançar entre as empresas do setor. Ele propõe a necessidade de uma análise contínua dos riscos da IA, feita por avaliadores contratados, e uma coordenação entre governos democráticos para regular a tecnologia, incluindo um diálogo com a China.
A questão que se coloca é: o que pode ser feito imediatamente? Afinal, os riscos são reais e iminentes. Em um artigo que escrevi em parceria com o professor da NYU Kenji Yoshino, discutimos que as primeiras mudanças devem ocorrer na governança das próprias empresas de IA. A Anthropic, por exemplo, possui um “trust” que deveria zelar pelo interesse público, mas sua estrutura é opaca e seus documentos não são acessíveis ao público. Os trustees têm mandatos curtos, e suas decisões podem ser anuladas pelos acionistas, o que compromete sua independência.
Para que a empresa atue de forma responsável, seria ideal criar um corpo independente e representativo de supervisores, com autonomia financeira e decisória. Esse grupo teria a responsabilidade de implementar padrões de segurança e transparência que não poderiam ser alterados por pressões internas, garantindo que suas decisões fossem sempre públicas. Em caso de incidentes, esse corpo deveria conduzir investigações e prestar contas a órgãos governamentais e à sociedade.
A necessidade de uma estrutura de governança mais robusta é evidente. Recentemente, a Anthropic deixou de cumprir a promessa de interromper o treinamento de IA sempre que não fossem garantidas as salvaguardas de segurança. Além disso, seu modelo Mythos 5.1 não foi compartilhado com órgãos de segurança, como o britânico AISI, antes do lançamento, o que era uma prática comum anteriormente.
Com a oferta pública de ações da Anthropic prevista para outubro, a janela para implementar melhorias na governança está se fechando. Após essa data, será muito mais difícil promover mudanças significativas. Pedir para ser regulado, sem tomar a iniciativa de agir, é como a cena clássica de Os Trapalhões, onde um personagem pede para ser segurado, mas não há ninguém por perto. No caso das empresas de IA, essa situação não é apenas cômica; é uma questão de sobrevivência para a humanidade.
