ענקית הבינה המלאכותית אנתרופיק חשפה לאחרונה כי חסמה מגוון חשבונות שניסו לנצל את המודלים שלה, לצרכים בעלי פוטנציאל הרסני.
לפי דוח חדש של החברה, זוהו כ-35 יוזמות מחקר חשודות שעסקו בנושאים רגישים כמו הגברת עמידות ונגישות של וירוסים קטלניים, בהם שפעת העופות, אבעבועות הקוף ונגיף הצ'יקונגוניה, לצד מחקרים על רעלנים פתוגניים.
בחברה הבהירו כי אף שהמשתמשים היו חוקרים פעילים, קשה לקבוע בוודאות אם כוונתם הייתה מחקרית-לגיטימית או זדונית, אך הסיכון מחייב חסימה מיידית.
ממעקבים בסין ועד טילים בתימן
הדוח מפרט כיצד גורמים שונים ניסו לעקוף את בקרות הגיאוגרפיה והאבטחה של החברה באמצעות הסוואת זהות ומעקף מנגנוני הגנה.
מעבר לאיומים הביולוגיים, אנתרופיק ערה לשימושים צבאיים ומודיעיניים שנעשו במערכותיה. בין היתר נחשף כי גורמים המקושרים לממשל הסיני ניסו להשתמש במודל לצרכי מעקב אחר מיעוטים דוגמת האויגורים ואנשי דת ברחבי אסיה.
במקביל, גורמים בצפון תימן, המזוהים ככל הנראה עם המורדים החות'ים, ניסו להיעזר בבינה המלאכותית כדי לפתח תוכנות הנחיה למערכות טילים וסיוע ללוחמת כטב"מים.
קריאה של המנכ"ל להאטת קצב הפיתוח
על רקע הממצאים הללו, מנכ"ל אנתרופיק, דריו אמודיי, יצא בקריאה פומבית לחברות המובילות בתחום להאט את קצב פיתוח המודלים המתקדמים ביותר.
במאמר שפרסם תחת הכותרת "We Must Pace the Frontier", הזהיר אמודיי כי מנגנוני הבטיחות והרגולציה אינם מדביקים את קצב ההתפתחות, וכי הסיכונים מתקדמים מהר יותר מהיכולת לשלוט בהם.
הוא העריך כי תרחיש שבו סוכני AI אוטונומיים ישבשו או ישתלטו על תשתיות אינטרנט עלול להתרחש בתוך שישה עד 12 חודשים בלבד. אמודיי הבהיר כי אינו קורא לעצור את הפיתוח כליל, אלא לאזן אותו כדי לפתח מנגנוני הגנה במקביל, ודרש מעורבות ממשלתית שתמנע העתקה או שימוש בלתי מורשה במודלים.
הטכנולוגיה מתקדמת, האזהרות מוחרפות
גילויים אלו מגיעים ברקע גל מחאות ואזהרות מתרחב מצד עובדים ובכירים בתעשייה. חוקרים שפרשו לאחרונה מחברות המובילות בתחום טוענים כי קצב פיתוח הטכנולוגיה עובר את יכולת הפיקוח והבקרה של בני האדם, וכי המודלים הקיימים מקרבים את העולם לתרחישי קיצון בטיחותיים.
למרות הקריאות הגוברות מצד מדענים ומנהלים להטלת רגולציה ממשלתית והאטת קצב ההפצה של מודלים חזקים, החברות בתחום ממשיכות להסתמך בעיקר על פיקוח עצמי, בעוד הממשל האמריקאי ונבחרי הציבור נמנעים כיום מהשתת חסמים משמעותיים על התפתחות הענף.
