Jacob Coxon, חוקר בריטי בן 27, שעבד במשך שלוש שנים ב-OpenAI ולאחר מכן ב-Anthropic, החליט לעזוב את תעשיית הבינה המלאכותית עם אזהרה שהדליקה נורות אדומות.
זמן קצר לאחר שהתפטר מ-Anthropic, פרסם קוקסון ב-X שאף אחת מהחברות אינה פועלת באחריות ושתיהן דוהרות במלוא המהירות לעבר בינת-על המשתפרת מעצמה.
דאגתו קיצונית אף יותר: הוא טען שמי שמפתחים את הטכנולוגיות האלה מאמינים באמת ובתמים שבינה מלאכותית מתקדמת עלולה להרוג את כל בני האדם לפני סוף העשור הזה.
לדברי קוקסון, מערכות אלה עלולות לעלות בהרבה על היכולות האנושיות, לפרוץ למערכות מחשב, לחולל מהפכה בתחומים שלמים ולהשיג גישה למשאבים ולעוצמה בעולם האמיתי.
אך מה שהופך את דבריו למטלטלים במיוחד הוא טענתו כי שמע מנהלים וחוקרים מביעים באופן פרטי חששות גדולים בהרבה מאלה שהם מביעים בפומבי.
והייתה תגובה שהעניקה לדבריו משקל רב עוד יותר.
Evan Hubinger, חוקר ב-Anthropic והמנהל לשעבר של קוקסון, השיב בפומבי כי “אנחנו באמת מאמינים” שבינה מלאכותית עלולה להרוג את כל בני האדם, אף שהעריך כי באופן אישי הוא סבור שהסיכון נמוך מ-10%. הוא גם הודה של-Anthropic עדיין אין תוכנית לפתור את בעיית הבטיחות של בינת-על עתידית.
קוקסון טוען שהבעיה היא המרוץ בין החברות: אפילו מי שמבינים את הסיכונים מרגישים שעליהם להתקדם לפני המתחרים שלהם.
וזה מותיר את השאלה העולה מאזהרתו: אם האנשים עצמם שבונים את הטכנולוגיה מאמינים שהיא עלולה להפוך למסוכנת, האם אנחנו מתקדמים מהר מדי?