וואטסאפ בוחנת פיצ'ר חדש בשם Scam Alert, שנועד לזהות הודעות שעשויות להיות חלק מניסיון הונאה. הפיצ'ר, שנמצא כעת בגרסת בטא מוגבלת וזמין באופן אופציונלי, עושה שימוש במודל למידת מכונה מתקדם שפועל ישירות על גבי מכשיר הטלפון של המשתמש.
המערכת החדשה בוחנת הודעות שמגיעות ממשתמשים שאינם נמצאים ברשימת אנשי הקשר של המקבל. היא מחפשת דפוסים הקשורים לשיחות הונאה, בהם מבנה השיחה וסימנים לשוניים שונים. לפי חברת מטא, המודל אומן על דפוסים שנמצאו בשיחות הונאה שדווחו בעבר על ידי משתמשים.
כיצד פועל מנגנון האזהרה?
כאשר המערכת מזהה הודעה החשודה כהונאה, המשתמש מקבל אזהרה שאינה מוצגת לשולח בצד השני. בשלב זה יכול המשתמש לבחור אם לחסום את השולח, לדווח עליו או להמשיך בשיחה כרגיל. בנוסף, ניתן לסמן את השיחה כשיחה מהימנה כדי לא לקבל התרעות נוספות.
אחד ההיבטים המרכזיים במערכת הוא שסיווג ההודעות מתבצע כולו על גבי המכשיר עצמו. תוכן ההודעות אינו נשלח לשרתי וואטסאפ לצורך זיהוי ההונאה. כדי למדוד את יעילות המודל מבלי לאסוף מידע רגיש, פיתחה החברה מערכת מיוחדת המפרידה בין זיהוי ההונאה לבין איסוף נתוני הביצועים.
כיצד נשמרת פרטיות המשתמשים?
במקום לשלוח הודעות, המכשיר אוסף נתונים סטטיסטיים מצטברים על מספר האזהרות והפעולות שבוצעו. הנתונים מועברים באמצעות פרוטוקול אבטחה ומעובדים בסביבות מחשוב חסויות. המערכת משתמשת בטכנולוגיית פרטיות דיפרנציאלית ובספים מינימליים לגודל קבוצת המשתמשים, כך שלא ניתן לזהות משתמש בודד או לקרוא את שיחותיו.
בנוסף, החברה מקפידה על אבטחת מודל הבינה המלאכותית עצמו. לפני הפצת מודל חדש, גרסתו והחתימה הדיגיטלית שלו מפורסמות ביומן שקוף של צד שלישי. המכשיר בודק את תקינות המודל לפני טעינתו, והקצאת המשתמשים לניסויים השונים מתבצעת על המכשיר עצמו כדי למנוע מהשרת לבחור מודל ספציפי למשתמש מסוים.
הבטא המוגבלת נועדה לאפשר לוואטסאפ ולקהילת אבטחת המידע לבחון את המערכת ולאתר חולשות לפני הרחבת השימוש בה. החברה מתכננת להרחיב את תוכנית ה-Bug Bounty שלה לבדיקת מערך הנתונים החסוי, ולפרסם רכיבי אבטחה לבדיקה עצמאית. הפיצ'ר מצטרף למאמצים דומים בתעשייה, כמו מנגנוני ההגנה של גוגל.
