Джейкоб Коксон, 27-річний британський дослідник, який протягом трьох років працював в OpenAI, а згодом в Anthropic, вирішив залишити індустрію штучного інтелекту з попередженням, яке забило на сполох.
Невдовзі після звільнення з Anthropic Коксон опублікував допис у X, заявивши, що жодна з компаній не діє відповідально і що обидві на повній швидкості мчать до надінтелекту, який сам себе вдосконалює.
Його занепокоєння ще більш серйозне: він заявив, що ті, хто розробляє ці технології, щиро вірять, що передовий ШІ може вбити всіх людей до кінця цього десятиліття.
За словами Коксона, ці системи можуть значно перевершити людські можливості, зламувати комп’ютерні системи, здійснити революцію в цілих галузях і отримати доступ до ресурсів та влади в реальному світі.
Але особливо вражає в його заявах те, що, за його словами, він чув, як керівники та дослідники приватно висловлюють побоювання, значно сильніші за ті, про які говорять публічно.
І була відповідь, яка надала його словам ще більшої ваги.
Еван Губінгер, дослідник Anthropic і колишній керівник Коксона, публічно відповів, що «ми справді вважаємо», що ШІ може вбити всіх людей, хоча, за його особистою оцінкою, цей ризик становить менш як 10%. Він також визнав, що в Anthropic досі немає плану розв’язання проблеми безпеки майбутнього надінтелекту.
Коксон стверджує, що проблема полягає в гонці між компаніями: навіть ті, хто розуміє ризики, відчувають, що мусять рухатися вперед, перш ніж це зроблять їхні конкуренти.
І після його попередження постає питання: якщо самі люди, які створюють цю технологію, вважають, що вона може стати небезпечною, чи не рухаємося ми надто швидко?