Jacob Coxon, um pesquisador britânico de 27 anos que trabalhou por três anos na OpenAI e posteriormente na Anthropic, decidiu deixar o setor de inteligência artificial com um alerta que acendeu sinais de alarme.
Pouco depois de se demitir da Anthropic, Coxon publicou no X que nenhuma das duas empresas está agindo com responsabilidade e que ambas estão avançando a toda velocidade rumo a uma superinteligência capaz de se aprimorar.
Sua preocupação é ainda mais extrema: ele afirmou que aqueles que desenvolvem essas tecnologias acreditam sinceramente que uma IA avançada poderia matar todos os humanos antes do fim desta década.
Segundo Coxon, esses sistemas poderiam superar em muito as capacidades humanas, invadir sistemas de computador, revolucionar áreas inteiras e obter acesso a recursos e poder no mundo real.
Mas o que torna suas declarações especialmente marcantes é que ele diz ter ouvido executivos e pesquisadores expressarem em particular temores muito maiores do que os que manifestam publicamente.
E houve uma resposta que deu ainda mais peso às suas palavras.
Evan Hubinger, pesquisador da Anthropic e ex-chefe de Coxon, respondeu publicamente que «realmente acreditamos» que a IA poderia matar todos os humanos, embora tenha estimado que, pessoalmente, considera esse risco inferior a 10%. Ele também reconheceu que a Anthropic ainda não tem nenhum plano para resolver o problema de segurança de uma futura superinteligência.
Coxon argumenta que o problema é a corrida entre as empresas: mesmo aqueles que entendem os riscos sentem que precisam avançar antes de seus concorrentes.
E isso deixa a questão levantada por seu alerta: se as próprias pessoas que estão construindo essa tecnologia acreditam que ela pode se tornar perigosa, estamos avançando rápido demais?