A OpenAI anunciou, nesta sexta-feira (30), a implementação de restrições mais rigorosas sobre o acesso de adolescentes a informações relacionadas a armas no ChatGPT. A decisão é parte de um esforço contínuo da empresa para prevenir a violência no mundo real, especialmente entre os jovens. As novas medidas, que começarão a ser adotadas nas próximas semanas, visam limitar o tipo de informação que pode ser acessada, mesmo em perguntas que possam parecer inofensivas.

Entre as mudanças, o ChatGPT poderá encerrar automaticamente conversas que demonstrem obsessão por violência, e a OpenAI também se reserva o direito de suspender temporariamente contas que apresentem interações repetidas sobre o tema. Além disso, a empresa afirmou que está aprimorando seu sistema de previsão de idade, direcionando usuários que são estimados como tendo menos de 18 anos para uma experiência adaptada para adolescentes. Os pais serão notificados caso a conta de seus filhos seja suspensa devido a discussões repetidas sobre violência.

Outra medida significativa é a limitação de detalhes sobre ataques em massa que ocorreram no passado, incluindo informações sobre as armas utilizadas e como foram obtidas. Essa decisão surge em um contexto onde, segundo um relatório recente, adolescentes passam em média menos de 15 minutos por dia no ChatGPT. No entanto, a versão voltada para adolescentes ainda enfrenta críticas, especialmente em relação à sua eficácia em alertar os pais sobre conversas preocupantes, como aquelas sobre suicídio ou automutilação.

A OpenAI, ao implementar essas restrições, busca não apenas proteger os usuários mais jovens, mas também contribuir para um ambiente digital mais seguro. A empresa reconhece a responsabilidade que vem com o uso de tecnologias avançadas e está comprometida em melhorar continuamente suas práticas de segurança e proteção.