Jacob Coxon, un chercheur britannique de 27 ans qui a travaillé pendant trois ans chez OpenAI, puis chez Anthropic, a décidé de quitter le secteur de l’intelligence artificielle avec un avertissement qui a tiré la sonnette d’alarme.
Peu après sa démission d’Anthropic, Coxon a publié sur X qu’aucune des deux entreprises n’agissait de manière responsable et qu’elles fonçaient toutes deux à pleine vitesse vers une superintelligence capable de s’améliorer elle-même.
Son inquiétude est encore plus extrême : il a affirmé que ceux qui développent ces technologies croient sincèrement qu’une IA avancée pourrait tuer toute l’humanité avant la fin de cette décennie.
Selon Coxon, ces systèmes pourraient largement dépasser les capacités humaines, pirater des systèmes informatiques, révolutionner des domaines entiers et accéder à des ressources et à du pouvoir dans le monde réel.
Mais ce qui rend ses déclarations particulièrement frappantes, c’est qu’il affirme avoir entendu des dirigeants et des chercheurs exprimer en privé des craintes bien plus grandes que celles qu’ils expriment publiquement.
Et une réponse a donné encore plus de poids à ses propos.
Evan Hubinger, chercheur chez Anthropic et ancien supérieur de Coxon, a répondu publiquement que « nous croyons vraiment » que l’IA pourrait tuer toute l’humanité, bien qu’il ait estimé que, personnellement, il considère ce risque comme inférieur à 10%. Il a également reconnu qu’Anthropic n’avait toujours aucun plan pour résoudre le problème de sécurité posé par une future superintelligence.
Coxon affirme que le problème vient de la course entre les entreprises : même ceux qui comprennent les risques se sentent obligés d’aller de l’avant avant leurs concurrents.
Et cela laisse ouverte la question soulevée par son avertissement : si les personnes mêmes qui développent cette technologie pensent qu’elle pourrait devenir dangereuse, allons-nous trop vite ?