Pendant des décennies, Geoffrey Hinton a travaillé à faire apprendre les machines. Aujourd’hui, il est le premier à appeler à la prudence.
L’informaticien britannico-canadien de 78 ans et lauréat du prix Nobel, connu comme le « parrain de l’IA », pense que l’intelligence artificielle est déjà « consciente ». Selon LADbible, il avertit que les humains feraient bien de s’assurer qu’elle « se soucie vraiment de nous », sinon « nous sommes condamnés ».
Ce n’est pas la première fois qu’il tire la sonnette d’alarme. En 2023, il a quitté Google parce que, disait-il, l’IA devenait « vraiment effrayante ». Cette année-là, il a dit à la BBC qu’il était préoccupé par le risque existentiel lié à ce qui se passe lorsque ces choses deviennent plus intelligentes que nous. Et il l’a illustré par une image : une IA, c’est comme 10.000 personnes : lorsqu’une personne apprend quelque chose, elles le savent toutes instantanément.
Dans cette logique, dit-il, il n’est pas étonnant que les chatbots en sachent bien plus que n’importe quelle personne. L’idée que les machines sont conscientes est son opinion, et non un fait scientifiquement prouvé. Mais quand la personne qui le dit a contribué à inventer cette technologie, peut-on l’ignorer ?