ג'ייקוב קוקסון (Jacob Coxon), חוקר AI בן 27 שעבד בשלוש השנים האחרונות על מחקרי AI, תחילה ב־OpenAI ובהמשך ב־Anthropic, הודיע בפומבי שהוא מתפטר מאנתרופיק, ובחר להפוך את העזיבה שלו לאזהרה חריגה מאוד לגבי הכיוון שאליו מרוץ הבינה המלאכותית הולך.

הטענה המרכזית שלו היא ש־OpenAI ואנתרופיק נמצאות בתחרות להגיע למערכות שהן לא רק חכמות מאוד, אלא מסוגלות בעתיד לשפר בעצמן את היכולות שלהן. לדבריו, ברגע שמגיעים ל־בינה מלאכותית שמשפרת את עצמה, קיים סיכון שהקצב שבו המערכת משתפרת יהיה מהיר מהיכולת האנושית להבין אותה או לשלוט בה. הוא ניסח זאת בצורה קיצונית: החברות, לטענתו, “מהמרות בחיים שלנו”.

מה שהפך את הסיפור ליותר משמעותי הוא שקוקסון טען שאנשים רבים בתוך מעבדות ה־AI עצמם חוששים מתרחיש כזה. ואכן, אוון הובינגר, שמוביל מחקר בעצמו באנתרופיק, הגיב בפומבי שקוקסון צודק בכך שיש בחברה חוקרים שבאמת חושבים שקיים סיכון קיומי; הובינגר עצמו העריך את הסיכון לקטסטרופה כזו ביותר מ־10% בעשור הקרוב, והוסיף שלדעתו עדיין אין פתרון ברור לבעיית ה־סופר־אינטליגנציה.

קוקסון גם לא טען שלאנתרופיק “לא אכפת” מבטיחות. להפך: לדבריו, שם דווקא מבינים את הסכנה ומשקיעים בבטיחות, אבל ממשיכים להתקדם משום שהם חוששים שאם הם יעצרו, OpenAI, גוגל או שחקן אחר יגיעו ראשונים. מבחינתו, זו בדיוק המלכודת: כל חברה אומרת שהיא לא יכולה להאט בגלל המתחרות, ולכן כולן ממשיכות להאיץ. הוא קורא