חברת OpenAI דיווחה היום כי זיהתה גידול בשימוש בטכנולוגיות הבינה המלאכותית שלה על ידי קבוצות שמקורן בסין, רוסיה, איראן, הפיליפינים, קמבודיה ואחרים, לצורכי מבצעי השפעה חשאיים, ריגול סייבר, הנדסה חברתית ותרמיות גיוס. החברה מסרה כי פעילות זו בוצעה בחלק מהמקרים באמצעות שירותי ChatGPT, תוך ניסיון לערער על אמינות השיח הציבורי, לפתח קוד זדוני ולבצע אוטומציה של פעילות עוינת.
לפי הדוח שפורסם מסן פרנסיסקו, אותרו עשרה מבצעים נפרדים שנעשה בהם שימוש מודע ומתמשך במודלי שפה של החברה – ליצירת תכנים פוליטיים, תרגום אוטומטי, דיבוג קוד, הנעה לפעולה כלכלית מזויפת, ואף לצורך סיוע טכני בפיתוח כלי סייבר. אף שמרבית המבצעים סווגו כהיקף נמוך, הם התמקדו בנושאים רגישים, תוך תיאום בין פלטפורמות והפעלה של מאות חשבונות מזויפים.
בדוח תוארה פעילות סינית שכונתה "Sneer Review", אשר כללה הפצת תכנים ביקורתיים נגד נשיא טאיוואן, העלאת האשמות שקריות נגד פעילה פקיסטנית, ותגובות סביב סגירת USAID. במקביל, נוצרו גם תכנים שעסקו במדיניות המכסים של נשיא ארצות הברית דונלד טראמפ – חלקם בעד הסגירה, אחרים מתנגדים – בניסיון ליצור תחושת דיון אותנטית.
OpenAI ציינה כי הפעילים הפעילו עשרות חשבונות מזויפים בטיקטוק, X, פייסבוק ורדיט, תוך שימוש בשפות שונות – ובהן אנגלית, סינית, אורדו וגרמנית – וכי נעשה שימוש בתמונות פרופיל שנוצרו על ידי מודלים של בינה מלאכותית, לעיתים עם שמות בדויים או מותגי חדשות מזויפים. חלק מהתגובות הועלו כשרשור תגובות מבוים, שנועד לשדר מעורבות גולשים מדומה.
מעבר לכך, הדוח מדגיש כיצד נעשה שימוש ב-AI גם בשלבים הטכניים של פעילות סייבר: קבוצות זרות השתמשו ב-ChatGPT כדי לשפר סקרי קוד פתוח, לייעל סקריפטים, לכתוב קוד לפורץ סיסמאות, ואף כדי לעקוף תשתיות זיהוי והגנה. אחת הדוגמאות הבולטות היא מבצע "ScopeCreep" ממקור רוסי, שפיתח נוזקה מוסווית בתוך כלי עזר לגיימרים, תוך שימוש חוזר בשירותי ChatGPT להנדסה, דיבוג והתחמקות מזיהוי על ידי Windows Defender.
מבצע נוסף, "High Five", פעל מהפיליפינים וניסה לקדם את נשיא המדינה באמצעות תגובות אוטומטיות, בעוד מבצע "Wrong Number" הציע "עבודות קלות בשכר גבוה" בשש שפות שונות – כולל סווהילית וקנירואנדית – בניסיון לגייס קורבנות למערכת פירמידה דיגיטלית שכללה גם העברות קריפטו. עוד נחשפה רשת מזויפת באירופה, שהתיימרה לייצג כלי תקשורת עצמאיים, אך למעשה ניסתה להפעיל הנדסה חברתית מול גורמים מערביים.
לדברי החברה, עצם השימוש במודלים סיפק תובנות חדשות שאיפשרו לה לאתר את הפעילות ולשתף את הממצאים עם רשויות ואנשי תעשייה. החברה מדווחת באופן שוטף על פעילות עוינת, כחלק ממנגנוני בקרה ואכיפה פנימיים.
OpenAI, שהשלימה לאחרונה סבב גיוס בסך 40 מיליארד דולר, מוערכת כיום בכ-300 מיליארד דולר – והיא נחשבת לאחת מחברות הטכנולוגיה הפרטיות הגדולות בעולם.
