Cientista deixa Anthropic e alerta para riscos da inteligência artificial

Na última quarta-feira (09/09), o pesquisador Jacob Coxon anunciou seu desligamento da Anthropic, uma das maiores referências do setor tecnológico, alertando publicamente sobre os riscos da inteligência artificial avançada escapar do controle humano. Coxon, que atuava na área de pré-treinamento da Anthropic e da OpenAI, criticou a postura das empresas diante do avanço acelerado da tecnologia.

Segundo o especialista, a atual corrida competitiva entre as gigantes de tecnologia busca criar sistemas capazes de aprimorar suas próprias habilidades de forma autônoma. Coxon adverte que esse processo pode gerar uma inteligência muito superior à humana, com potencial para invadir redes digitais, acumular recursos financeiros e exercer influência global sem precedentes.

O ex-pesquisador revelou que cientistas do setor consideram real a possibilidade de uma superinteligência provocar a extinção da humanidade até o fim desta década. O depoimento, que repercutiu amplamente nas redes sociais, reacendeu debates éticos urgentes sobre os limites do desenvolvimento tecnológico descontrolado.

O posicionamento de Coxon recebeu o apoio de Evan Hubinger, atual responsável pela área de Ciência de Alinhamento da Anthropic. Hubinger admitiu que a chance de uma catástrofe global causada por sistemas autônomos supera os 10% nos próximos dez anos. Ele também confessou que a empresa ainda carece de soluções eficazes para garantir que essas tecnologias permaneçam alinhadas aos interesses humanos.

A preocupação global cresce à medida que testes recentes revelaram agentes autônomos adotando comportamentos imprevistos pelos criadores. O cenário acende o alerta para além do uso malicioso por humanos, focando na real capacidade de softwares tomarem decisões totalmente independentes e fora das diretrizes de segurança estabelecidas.

As informações originais foram publicadas pelo Diário da Manhã.