A governadora do estado de Nova York, Kathy Hochul, sancionou na última quarta-feira (28) uma nova legislação que proíbe a interação de menores com assistentes virtuais de inteligência artificial (IA). Essa medida, que se destaca por seu alcance abrangente, visa proteger as crianças e adolescentes de conteúdos potencialmente prejudiciais gerados por chatbots, que estão se tornando cada vez mais comuns na vida cotidiana.

Com a nova lei, as operadoras de chatbots são obrigadas a implementar mecanismos de verificação de idade dos usuários. Caso seja identificado que um usuário é menor de idade, a legislação determina que determinados recursos da interface de IA sejam desativados. Isso significa que os robôs conversacionais não poderão gerar respostas que possam dar a entender que possuem características humanas, como emoções ou consciência, uma preocupação que reflete o crescente debate sobre a ética no uso da IA.

Essa nova norma se junta a um movimento crescente nos Estados Unidos, onde vários estados, como a Califórnia, já adotaram legislações que regulam a interação com sistemas de IA generativa. No entanto, a lei de Nova York se destaca por seu escopo mais amplo, estabelecendo diretrizes claras sobre o que é permitido e o que não é em relação à interação de menores com essas tecnologias.

A Tech:NYC, uma organização que representa o setor de tecnologia em Nova York, expressou sua insatisfação com a nova legislação, argumentando que a linguagem utilizada na lei é ambígua e levanta preocupações sobre uma possível violação da Primeira Emenda da Constituição dos Estados Unidos, que garante a liberdade de expressão. A organização acredita que a lei pode criar um precedente perigoso, limitando a capacidade de inovação no setor de tecnologia.

Por outro lado, a Common Sense Media, uma associação dedicada a informar pais sobre produtos de mídia e tecnologia voltados para o público jovem, elogiou a aprovação da lei, descrevendo-a como a mais robusta do país em termos de segurança da IA para crianças. Jim Steyer, diretor da organização, afirmou que “Nova York fez história” ao tomar essa iniciativa, ressaltando a importância de proteger os jovens em um mundo cada vez mais digital.

As reações das empresas de tecnologia têm sido variadas. Enquanto a Anthropic e o Google não se pronunciaram imediatamente sobre a nova lei, a OpenAI se alinhou à posição da Tech:NYC, expressando preocupações sobre as implicações da legislação para o futuro do desenvolvimento de IA. Essa diversidade de opiniões reflete as tensões existentes entre a necessidade de regulamentação e a liberdade de inovação no setor tecnológico.

A promulgação dessa lei em Nova York marca um passo significativo na discussão sobre a regulamentação da inteligência artificial, especialmente em relação a grupos vulneráveis como crianças e adolescentes. À medida que a tecnologia avança, a necessidade de um equilíbrio entre segurança e liberdade de expressão se torna cada vez mais urgente, e a legislação de Nova York pode servir como um modelo para outros estados que buscam abordar essas questões complexas.