בכיר לשעבר בגוגל קורא להאט את קצב הפיתוח של טכנולוגיות הבינה המלאכותית,
ומזהיר בראיון לרויטרס כי תעשיית ההייטק חוזרת על אותן טעויות שנעשו בעידן הרשתות החברתיות הפעם עם פוטנציאל נזק כבד בהרבה עבור ילדים ובני נוער.
אזהרה מחמירה מהבכיר לשעבר בגוגל
טום סיגל, שהקים את צוות האמון והבטיחות בחברת גוגל וכיהן כסגן נשיא בתחום, הבהיר כי המצב הנוכחי דורש התערבות דחופה. את הדברים אמר בראיון לרשת רויטרס.
לדבריו, הרעיון שתעשיית הטכנולוגיה תצליח לווסת את עצמה ולפתור את הבעיות הללו ללא עזרה חיצונית אינו מציאותי. התבטאויותיו מגיעות על רקע החששות הגוברים בקרב מומחים ואנשי אקדמיה, המזהירים כי שילוב מאפיינים מתקדמים בצ'אטבוטים, המשמשים מיליוני צעירים מדי יום, נעשה ללא שום מנגנוני הגנה מספקים, ולאור אזהרות מומחי התעשייה בדבר שימוש בבינה מלאכותית וקריאתם להאטת הפיתוח.
מכון חדש לבטיחות בינה מלאכותית לצעירים
על רקע דברים אלו, הודיע סיגל על הצטרפותו לארגון העצמאי Common Sense Media, שם יכהן כמנהל הכללי הראשון של המכון לבטיחות AI לצעירים.
המכון, שנתמך בין היתר על ידי החברות OpenAI ואנתרופיק, שואף לפתח תקני בטיחות והערכת סיכונים עצמאיים לכלים המופצים לציבור, במתכונת הדומה למבחני ריסוק בענף הרכב. סיגל, שעזב את גוגל ב-2019 מתוך תחושה שהתעשייה הגיעה למבוי סתום ביכולתה ליצור סביבה מקוונת בטוחה, ציין כי תעדוף הבטיחות הוא הכרחי.
מסיכון פסיכוטי ועד פגיעה בחשיבה הביקורתית
במבט קדימה, יזמי הטכנולוגיה נדרשים להתמודד עם תרחישי נזק חמורים במיוחד. הסיכונים שצוינו כוללים דיכאון, אפיזודות פסיכוטיות ואף אובדנות, לצד תופעה של ירידה ביכולת החשיבה הביקורתית עקב הסתמכות יתר על בינה מלאכותית לקבלת תשובות.
בין הצעדים המיידיים שמוצעים לחברות נמנים אימות גיל קפדני יותר, ואפשרות ניטרול קלה של מנועי הבינה המלאכותית במנועי החיפוש. אף שצעדים אלו עשויים לפגוע בשימוש וברווחים בטווח הקצר, נטען כי הימנעות מפעולה תחשוף את החברות לתביעות רגולטוריות ומשפטיות כבדות בהרבה בהמשך.
תגובת ענקיות הטכנולוגיה
בתגובה לטענות, מסרו בחברת גוגל כי להורים ישנם כלים מלאים לחסום את הגישה למנוע החיפוש עבור ילדיהם, וכי תכונות ה-AI מהוות כלי מועיל ללמידה וגילוי.
בחברת OpenAI ציינו כי הם משתמשים בזיהוי דפוסי התנהגות ואותות נוספים לצד הצהרת גיל כדי לזהות משתמשים צעירים, וממשיכים לשפר את המערכות באופן קבוע כדי למנוע מעקף של מנגנוני ההגנה.
