A discussão sobre a autorregulação da inteligência artificial (IA) tem ganhado destaque globalmente, especialmente após a recente reunião na Casa Branca, onde líderes das principais empresas do setor se reuniram em busca de diretrizes claras. No entanto, as expectativas foram frustradas, pois o modelo proposto se mostrou insuficiente, com compromissos vagos e sem penalidades efetivas para as empresas envolvidas.
Os compromissos assumidos foram classificados como obrigações “morais”, sem prazos definidos e sem a necessidade de auditorias independentes. Cada empresa tem a liberdade de escolher seus próprios auditores, o que levanta sérias questões sobre a eficácia desse modelo de autorregulação. Em resposta a essa situação, o Conselho de Supervisão Independente da Meta, do qual sou membro, publicou uma carta aberta enfatizando a necessidade de uma supervisão adequada e independente para a IA. O conselho, criado após o escândalo da Cambridge Analytica, tem como função monitorar as ações da Meta, assegurando que suas decisões sejam transparentes e que as recomendações sejam publicamente respondidas. Essa estrutura, que inclui especialistas de diversas áreas, tem demonstrado eficácia, implementando 75% de suas recomendações ao longo de seis anos.
Entretanto, a autorregulação da IA não pode ser apenas uma formalidade. Para que seja realmente eficaz, é necessário que as empresas abram mão do controle sobre quem as supervisiona e adotem requisitos claros. A independência do órgão de supervisão é crucial, assim como o acesso a informações não públicas e a capacidade de iniciar investigações. Além disso, a transparência é fundamental; todas as decisões e recomendações devem ser publicadas e fundamentadas.
Outro ponto importante é a necessidade de que o órgão supervisor inclua especialistas de diferentes áreas, não apenas pessoas ligadas às empresas de tecnologia. Isso garante uma visão mais ampla e diversificada sobre os impactos da IA. Além disso, as regras que orientam essa supervisão devem ser baseadas em direitos humanos amplamente reconhecidos, assegurando que a tecnologia respeite valores fundamentais.
Por fim, a abrangência da autorregulação deve se estender a todo o setor, uma vez que incidentes envolvendo múltiplas empresas, como o recente ataque hacker ao site Hugging Face, demonstram que a responsabilidade não pode ser fragmentada. O debate sobre a supervisão da IA é urgente, especialmente considerando que pesquisas indicam que uma grande parte da população acredita que as empresas de IA não estão fazendo o suficiente para evitar danos significativos. Nas próximas semanas, o Conselho planeja convocar empresas e governos para discutir as garantias institucionais necessárias para que a autorregulação funcione de maneira eficaz. O futuro da IA depende de uma supervisão que não apenas exista, mas que seja robusta, independente e verdadeiramente comprometida com a proteção dos usuários e da sociedade.
