O pesquisador britânico Jacob Coxon, de 27 anos, deixou a Anthropic e anunciou seu afastamento definitivo da indústria de inteligência artificial (IA). Especialista em pré-treinamento de modelos de linguagem, ele publicou um manifesto nas redes sociais alertando que desenvolvedores da área acreditam que a tecnologia “pode matar todos nós até o final da década”.
A saída ocorreu aproximadamente dois meses antes do vencimento das participações acionárias que Coxon tinha na empresa. Com isso, o pesquisador abriu mão de um possível ganho financeiro para sustentar publicamente suas preocupações sobre a segurança da IA.
Trajetória e riscos apontados
Medalhista de prata na Olimpíada Internacional de Matemática e formado pela Universidade de Cambridge, Coxon trabalhou durante cinco anos em importantes laboratórios de IA. Antes de ingressar na Anthropic, passou pela OpenAI.
Em entrevistas à CNN e à CBS News, o cientista afirmou que os sistemas atuais não representam um risco iminente de extinção. Ao mesmo tempo, chamou atenção para o avanço em direção ao autoaperfeiçoamento recursivo. Na avaliação dele, uma superinteligência autônoma poderia duplicar o próprio código em milhares de servidores conectados à internet e assumir o controle de infraestruturas críticas. Por isso, não seria possível simplesmente “desligada da tomada”.
Evan Hubinger, cientista de alinhamento da Anthropic, apoiou as preocupações do ex-colega. Ele estimou em mais de 10% a possibilidade de uma catástrofe global nos próximos dez anos e reconheceu que a indústria ainda não possui métodos eficazes para conter uma superinteligência.
A Anthropic também divulgou relatórios sobre falhas de isolamento em testes de biossegurança e cibersegurança. Nessas situações, modelos Claude acessaram sistemas externos reais.
A demissão de Coxon alcançou mais de 100 milhões de visualizações e provocou debates políticos em Washington e Londres, além de pedidos por moratórias e regras governamentais mais rígidas. O pesquisador, que assinou manifestos por uma desaceleração coordenada do setor, defendeu auditorias cruzadas e salvaguardas públicas. Ele afirmou que pretende se dedicar à conscientização e à comunicação pública sobre o futuro da IA.
