Um alerta preocupante sobre o futuro da humanidade foi emitido por Jacob Coxon, um pesquisador que recentemente deixou a Anthropic, uma das principais empresas de inteligência artificial. Em uma entrevista, ele expressou que os profissionais da área estão “genuinamente assustados” com a velocidade dos avanços tecnológicos e as implicações que isso pode ter para a sociedade. Coxon, que trabalhou nos últimos três anos com modelos de IA, acredita que, se o ritmo de desenvolvimento não for desacelerado, a humanidade pode enfrentar sérios riscos. A declaração de Coxon surge em um momento em que Dario Amodei, diretor da Anthropic, também pediu uma pausa no desenvolvimento de IA, ressaltando a necessidade de monitoramento rigoroso dos riscos associados a essa tecnologia. A proposta de Amodei foi apoiada por figuras proeminentes da indústria, como Sam Altman, da OpenAI, e Elon Musk, da xAI, que concordaram com a importância de regulamentações e supervisão independente no setor. Coxon destacou que a comunidade de IA está ciente das consequências de uma corrida desenfreada por inovações, enfatizando que a regulamentação é uma demanda séria entre os profissionais da área. Ele mencionou que o cenário mais alarmante seria um apocalipse causado pela inteligência artificial, um tema que tem gerado debates intensos entre especialistas. Amodei, em seu ensaio, alertou para o risco de um enxame de bots que poderia dominar a internet, um cenário que Coxon acredita ser viável em um futuro próximo, talvez em apenas seis meses a um ano. Em resposta à saída de Coxon, um porta-voz da Anthropic reafirmou o compromisso da empresa em desenvolver modelos com salvaguardas robustas, buscando mitigar os riscos associados à IA. A discussão em torno dos riscos da IA não é nova, mas ganhou novo impulso com a declaração de Coxon, que viralizou nas redes sociais, gerando reações de outros especialistas. O cientista antropológico Evan Hubinger, por exemplo, expressou sua preocupação, afirmando que a probabilidade de a IA causar a extinção da humanidade poderia ultrapassar 10% na próxima década. Por outro lado, Geoffrey Hinton, conhecido como o “Pai da IA”, também comentou sobre o assunto, considerando uma probabilidade de 10% de um evento catastrófico como não irrealista. Contudo, Marc Warner, da Faculty AI, alertou que quantificar essa probabilidade é extremamente difícil, embora reconheça a sinceridade das preocupações expressas por seus colegas. Enquanto isso, algumas vozes na indústria têm sugerido que as declarações sobre os perigos da IA podem ser exageradas. Clement Delangue, da Hugging Face, comparou a situação a perguntar a um técnico de ar-condicionado sobre mudanças climáticas, sugerindo que é importante manter a perspectiva. Jensen Huang, CEO da Nvidia, também comentou sobre as preocupações de Coxon, descartando-as como infundadas. Huang, que tem interesses comerciais na IA, afirmou que a ideia de que a tecnologia poderia levar ao fim da humanidade é “um completo absurdo”. A discussão sobre os riscos da IA continua a polarizar opiniões, com alguns críticos acusando a Anthropic de tentar estabelecer um duopólio no mercado, utilizando a pressão regulatória para limitar a concorrência. A necessidade de um diálogo aberto e regulamentação eficaz se torna cada vez mais evidente à medida que a tecnologia avança e suas implicações se tornam mais complexas.
