חברת הבינה המלאכותית אנתרופיק הודיעה כי זיהתה וחסמה ניסיונות להשתמש במודלי ה-AI שלה לצרכים שעלולים לתמוך בפיתוח נשק ביולוגי. הממצאים פורסמו בדוח מודיעין האיומים החדש של החברה, המתאר שורה של מקרים שבהם נעשה שימוש לרעה במודל Claude לצורכי סייבר, ריגול, הונאות, תעמולה ופיתוח כלי נשק.
על פי הדוח, החברה זיהתה חמישה מקרים שבהם גורמים השתמשו במודלים שלה בדרכים שעלולות לתמוך בפיתוח נשק ביולוגי. באנתרופיק הגדירו שימוש ביולוגי לרעה כאחד הסיכונים החמורים ביותר הנשקפים ממודלי AI מתקדמים, והזהירו כי ללא מנגנוני הגנה מתאימים, יכולות כאלה עלולות להיות בעלות השלכות הרסניות.
מורכבות הזיהוי וסוגי האיומים
בחברה הדגישו כי מדובר בתחום מורכב במיוחד, משום שאותו מידע מדעי עשוי לשמש גם למטרות לגיטימיות כמו פיתוח חיסונים או טיפולים רפואיים. ג'ייקוב קליין, ראש תחום מודיעין האיומים בחברה, אמר ל"ניו יורק טיימס" כי מדובר ב"מצב מורכב להפליא", וציין כי במקרים כאלה לא מדובר בהכרח באדם שמצהיר מראש על כוונה לפתח נשק ביולוגי.
הדוח, שהוא הראשון של אנתרופיק השנה, מתייחס לשימוש לרעה במודלים Claude Haiku, Sonnet ו-Opus בין דצמבר 2025 לאוגוסט 2026. המקרים שנחשפו כללו גם שימוש ב-AI לצורך פיתוח תוכנות עבור כלי נשק קונבנציונליים, בהם כלי ירייה, טילים, רחפנים חמושים ופצצות, וכן מערכות שליטה ומיקוד.
במקרה נוסף, קבוצת האקרים שלפי אנתרופיק פעילותה תואמת לזו של Midnight Blizzard, קבוצת ריגול סייבר המזוהה עם רוסיה, השתמשה ב-AI כדי לפתח מערכת שזיהתה באופן אוטומטי כאשר נוזקה נחסמה על ידי מערכות אבטחה, ולאחר מכן שינתה את הקוד במטרה לעקוף את מנגנוני ההגנה.
ריגול סייבר ואזהרות בתעשייה
אנתרופיק דיווחה גם על שימוש ב-Claude במסגרת קמפיין ריגול סייבר הקשור לגורמים ברוסיה, ובידי מוסד תעמולה איראני. בנוסף, הדוח מתאר מקרים של אפליקציות היכרויות מזויפות, הונאות באמצעות רשתות Wi-Fi בבתי מלון ומערכות מעקב שנועדו לזהות מתנגדי משטר. החברה טענה עוד כי חברות AI מסין ניסו לשחזר את היכולות של Claude.
הדוח מתפרסם על רקע אזהרות גוברות בנוגע לסיכונים הכרוכים בהתפתחות המהירה של מערכות בינה מלאכותית. גוגל דיווחה השבוע על ניסיון להשתמש ב-Gemini כדי לקבל מדריך טכני מלא לייצור חומרים ביולוגיים שניתן להפוך לכלי נשק. במקרה נוסף, הסנאטור האמריקאי ברני סנדרס קרא לעצור את פיתוח מערכות ה-AI המתקדמות ולפעול לאיסור על פיתוח "בינה מלאכותית על-אנושית".
גם בתוך תעשיית ה-AI נשמעו לאחרונה קריאות להאט את קצב הפיתוח. המדען הראשי של OpenAI, יאקוב פצ'וקי, קרא לתעשייה לאמץ האטות וולונטריות בפיתוח מערכות מתקדמות. במקרה אחר, חוקר בטיחות בכיר באנתרופיק הזהיר כי קצב ההתקדמות מהיר כל כך, עד שלדבריו קיים סיכון של יותר מ-10% לכך ש-AI "יהרוג את כל בני האדם" בתוך העשור הקרוב.
