״מהמרים על החיים שלנו״ 👇

ג'ייקוב קוקסון, חוקר בכיר בחברת אנת'רופיק שמתמחה בבינה מלאכותית, התפטר והודיע כי יעזוב לחלוטין את תחום הבינה המלאכותית. כך דיווח אתמול עיתון "וול סטריט ג'ורנל". על פי הדיווח, המהלך התרחש בתקופה רגישה עבור החברה, שנמצאת בתהליכי הנפקה מתקדמים

עם התפטרותו, הצהיר קוקסון בפוסט ארוך שפרסם ברשת X, כי הוא "מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי". קוקסון טען כי הוא עוזב את החברה משום שאינו רוצה להשתתף במרוץ בתעשיית ה-AI לבנות מערכות שיכולות לשפר את עצמן, ומתוך חשש שמערכות כאלו יוכלו לצאת משליטה ולהשמיד את האנושות

"אל תמעיטו בערכה של כוחה של טכנולוגיה זו", אמר קוקסון. "אלה יהיו בקרוב מערכות על-אנושיות שמסוגלות לפרוץ לכל דבר, להפוך ללא היכר כל תחום בן לילה, ולרכוש כוח אמיתי ומשאבים. כולנו עדים להתקדמות בכל אחד מהתחומים האלה, וההתקדמות אינה מאטה"

"האנשים שבונים AI מאמינים בתקיפות שהוא עלול להרוג את כולנו עד סוף העשור", טען עוד בפוסט. "זה לא תעלול שיווקי. אם בכלל, רבים מהמנהלים הבכירים וחוקרים בכירים ינמקו את ניסוחיהם בעיתונות כדי להישמע הגיוניים, אבל אני שומע את אותם אנשים מביעים פחד באופן פרטי. אין פעילות אנושית אחרת שמציבה סכנה ברמה הזו.

"ג'ייקוב צודק כאן - אנחנו באמת ובתמים מאמינים שבינה מלאכותית עלולה להביא למותם של כל בני האדם", הגיב לו בפוסט ברשת X אוון הובינגר, חוקר בכיר באנת'רופיק. "אני אישית סבור שההסתברות לכך עולה על 10% בעשור הקרוב. אני מאמין ש-Anthropic עושה כמיטב יכולתה, אך עדיין אין לנו תוכנית לפתרון סוגיית ה-Alignment (התאמת ההתנהגות עבור בינה מלאכותית כך שתפעל באופן בטוח)"

@yechez.korn
התמונה נוצרה באמצעות בינה מלאכותית ✨