Advertisement Placeholder

בדרך לאסון? חוקר הבינה מלאכותית מאמין שכן -"אל תזלזלו בעוצמה של הטכנולוגיה"

ג'ייקוב קוקסון, שעבד גם ב-OpenAI, מאשים את ענקיות הבינה מלאכותית בהימור מסוכן על חיי אדם • הפוסט שלו עורר סערה דרמטית ברשת וצבר מעל 40 מיליון צפיות בתוך שעות ספורות בלבד
אנתרופיק | צילום: שאטרסטוק

אנתרופיק | צילום: שאטרסטוק

רעידת אדמה בעולם הטכנולוגיה: ג'ייקוב קוקסון (Jacob Coxon), חוקר אימון מקדים לשעבר (Pretraining) שאימן מודלים בשתי מעצמות הבינה המלאכותית OpenAI ואנתרופיק במהלך שלוש השנים האחרונות, הודיע על התפטרותו מחברת מהחברה.

דריו אמודיי, מנכ"ל אנתרופיק | צילום: רויטרס

בשרשור דרמטי שפרסם ברשת החברתית ה-X, האשים קוקסון את שתי החברות בהתנהלות לא אחראית ובמהירוֹת עיוורת לעבר סופר-אינטליגנציה בעלת יכולת שיפור עצמי – תוך הימור מסוכן על חיי אדם.

סערה ברשת: עשרות מיליוני צפיות בתוך שעות ספורות

החשיפה הדרמטית הפכה למגה-ויראלית בקצב יוצא דופן. הפוסט הראשי של קוקסון צבר מעל 40 מיליון צפיות תוך שעות ספורות בלבד מאז עלייתו לאוויר, כאשר השרשור כולו זכה לעשרות מיליוני צפיות נוספות, מאות אלפי לייקים ועשרות אלפי שיתופים.

קראו את השרשור:

הנתונים האלו משקפים את החשש הגובר בציבור ובקרב משקיעים מפני הקצב המהיר שבו מתפתחות מערכות ה-AI ללא פיקוח מתאים.

"אנשים שבונים את הטכנולוגיה מאמינים שהיא עלולה להרוג אותנו"

בפרסום החריף מזהיר קוקסון מפני השאננות הציבורית ומבהיר כי אין מדובר בתרגיל יחסי ציבור. לטענתו, מנהלים וחוקרים בכירים בתעשייה נוהגים להתבטא במתינות ובזהירות בתקשורת כדי להישמע שקולים, אך בשיחות סגורות הם מביעים פחד אמיתי.

רובוטים | צילום: שאטרסטוק

הוא מציין כי רבים מבכירי הענף מאמינים ברצינות שהטכנולוגיה עלולה להביא לקץ האנושות עוד לפני תום העשור הנוכחי, ומדגיש כי שום פעילות אנושית אחרת אינה טומנת בחובה רמת סיכון כה גבוהה.

המירוץ הבלתי נשלט בין הענקיות

קוקסון מנתח את הדינמיקה הבעייתית בין השחקניות המובילות בשוק. בעוד שב-OpenAI רבים מהעובדים טרם הפנימו לעומק את גודל הסכנה הקיומית, באנתרופיק הסכנות מובנות היטב.

סם אלטמן, מנכ"ל OpenAI | צילום: שאטרסטוק
סם אלטמן, מנכ"ל OpenAI | צילום: שאטרסטוק

עם זאת, התחרות העזה קורצת לשתי החברות להמשיך קדימה, באנתרופיק מאמינים שאף גורם אחר לא יפעל בבטיחות ובאחריות, ולכן הם מחויבים להגיע ראשונים לטכנולוגיה גם במחיר סיכון אדיר. קוקסון מגדיר את הכניסה ל"משחק הקצה" דרך ערוצי ה-Slack של חברה פרטית כהימור יהיר וחסר אחריות.

קריאה לעצור את המרוץ הגלובלי

בהמשך דבריו פונה קוקסון ישירות לחבריו החוקרים במעבדות ה-AI וקורא להם לא להרכין ראש רק מכיוון ש"זה קורה ממילא". הוא דוחק בהם לדרוש תנאים אחרים לפיתוח ולשקול את השלכות השנים הקרובות.

בינה מלאכותית, אילוסטרציה | צילום: שאטרסטוק

לטענתו, כדי למנוע מרוץ חימוש טכנולוגי גלובלי ולא מפוקח, ייתכן שיידרשו צעדים דרסטיים וכואבים – כולל הקפאה זמנית וגורפת של שיפור יכולות המודלים.

"דוחק בך לחשוב איך השנים הבאות ייראו"

בסיום דבריו כתב קוקסון, כי אם אתה חוקר במעבדה, אני דוחק בך לחשוב איך השנים הבאות ייראו וירגישו. הוא המשיך והוסיף, האם אתה רוצה להזניק הרצת למידת חיזוק של סופר אינטילגנציה בלי להבין את התודעה שלה?

בינה מלאכותית בדמות אישה | צילום: שאטרסטוק

האם כדאי להוריד את הראש כי "זה קורה ממילא" – או לנצל את הרגע הזה כדי לדרוש תנאים אחרים?

שתפו כתבה זו:

כותרות הכלכלה

guest
0 תגובות

עקבו אחרינו ברשתות החברתיות

עוד כתבות מעניינות

טען עוד כתבות