פלטפורמת הפגישות זום הכריזה על שותפות עם World, חברת אימות הזהות האנושית של סם אלטמן, כדי להבטיח שהמשתתפים בפגישות הם למעשה אנושיים ולא מתחזים שנוצרו על ידי בינה מלאכותית.
האיום אמיתי וגדל במהירות. הדוגמה הדרמטית ביותר התרחשה בתחילת 2024, כאשר חברת ההנדסה Arup הפסידה 25 מיליון דולר לאחר שעובד בהונג קונג אישר סדרה של העברות בנקאיות במה שנראה כשיחת וידאו שגרתית עם מנהל הכספים של החברה וכמה עמיתים. כל אדם בשיחה זו – מלבד הקורבן – התגלה כמעין דיפ-פייק שנוצר על ידי בינה מלאכותית. מתקפה דומה פגעה בחברה רב-לאומית בסינגפור בשנת 2025.
על פי הערכה אחת, ההפסדים הכספיים כתוצאה מהונאות מבוססות דיפ-פייק עלו על 200 מיליון דולר ברבעון הראשון של השנה שעברה בלבד, וההפסד הממוצע לכל אירוע תאגידי עולה כעת על 500,000 דולר, על פי דיווחים בתעשיית האבטחה.
לכן, בעוד שהונאות שיחות וידאו מבוססות דיפ-פייק אולי אינן משהו שרוב האנשים נתקלים בו באופן אישי, הן מהוות סיכון רציני לעסקים, במיוחד אלו שמבצעים באופן קבוע עסקאות בעלות ערך גבוה באמצעות וידאו.
World ציינה כי בעוד שכבר קיימים מאמצים לתפוס זיופים בפגישות, הם מוגבלים לניתוח פריימים בוידאו לאיתור סימנים מעידים של מניפולציה של בינה מלאכותית. שתי החברות אמרו כי מכיוון שמודלי הווידאו משתפרים, שיטות זיהוי פריים-אחר-פריים הללו הופכות לא אמינות יותר ויותר.
הצגת פוסט זה באינסטגרם
עבור תכונה חדשה זו, World משתמשת בטכנולוגיית World ID Deep Face שפיתחה, אשר נוקטת בגישה משולשת לאימות שהמשתתף הוא אדם אמיתי. היא משלבת תמונה חתומה שצולמה בזמן רישום המשתמש דרך מכשיר ה-Orb של World, סריקת פנים בזמן אמת ממכשיר המשתמש, ופריים וידאו חי הנראה למשתתפי פגישה אחרים.
הפלטפורמה היא מאמתת מישהו רק כאשר שלושת הדברים תואמים, ובנקודה זו מופיע תג "אדם מאומת" על תואר המשתתף. (כן, החיים מתחילים להיות מוזרים.)
זום מסרה כי מארחים יכולים בחדר המתנה של Deep Face לדרוש מכל המשתתפים לאמת את זהותם. משתתפים יכולים גם לבקש באמצע שיחה שמישהו יאמת את עצמו במקום.
"אינטגרציה זו היא חלק מגישת המערכת האקולוגית הפתוחה של זום, המעניקה ללקוחות דרכים נוספות לבנות אמון בזרימות העבודה שלהם בהתבסס על מה שחשוב ביותר עבור מקרה השימוש שלהם", אמר דובר זום, טרוויס איסמן, בדוא"ל.
מעבר לזום, World של אלטמן בנתה שותפויות עם מגוון פלטפורמות צרכנים, כולל טינדר וויזה, לצורך אימות אנושי. בחודש שעבר היא פרסמה טכנולוגיה שתאמת שבני אדם אמיתיים, ולא תוכניות בינה מלאכותית אוטומטיות, אשר עומדים מאחורי סוכני קניות מבוססי בינה מלאכותית בנקודת הרכישה.
