בשבועות האחרונים גוברת הדאגה בקרב מומחי פרטיות ברחבי העולם בעקבות מקרים שבהם צ’אטבוטים מבוססי בינה מלאכותית חושפים לכאורה מספרי טלפון ופרטים אישיים של משתמשים לעיתים לאנשים זרים לחלוטין.
על פי תחקיר של MIT Technology Review, משתמשים דיווחו כי פניות תמימות לצ'אטבוטים הובילו לקבלת מספרי טלפון אמיתיים של אנשים, לעיתים מבלי כל קשר ישיר לשאלה שנשאלה. באחד המקרים, מתכנת מישראל קיבל הודעות בוואטסאפ מאדם זר לאחר ש־Gemini סיפק לו מספר טלפון שגוי של שירות לקוחות שהתברר כשייך לאדם פרטי.
במקרה אחר, חוקר בארצות הברית הצליח לגרום למערכת לחשוף מספר טלפון של עמית שלו במהלך ניסוי אקראי עם המערכת. משתמש נוסף טען כי קיבל מבול של שיחות מאנשים שטענו כי קיבלו את מספרו דרך חיפוש שבוצע באמצעות AI.
המומחים מסבירים כי מקור הבעיה עשוי להיות בנתוני האימון של המודלים, הכוללים כמויות עצומות של מידע מהרשת – חלקו כולל פרטים אישיים שפורסמו בעבר. במקרים מסוימים, המערכות “משלימות” מידע חסר ומייצרות תשובות שנראות אמינות אך בפועל שגויות, כולל מספרי טלפון אמיתיים או מומצאים.
חברות אבטחת מידע מציינות כי בשנה האחרונה נרשמה עלייה חדה בפניות בנושא פרטיות הקשורות לבינה מלאכותית. לפי חברת DeleteMe, מדובר בעלייה של מאות אחוזים בפניות משתמשים החוששים מחשיפת מידע אישי דרך מערכות כמו ChatGPT, Gemini וכלים דומים.
בנוסף, חוקרי אבטחה מזהירים מתופעה המכונה "דוקסינג באמצעות AI" – מצב שבו צ'אטבוטים משמשים, גם אם לא במכוון, להפצת פרטים אישיים של אנשים אמיתיים. לצד זאת, חברות טלקום כבר מדווחות על ניסיונות של גורמים זדוניים לשתול מספרי שירות לקוחות מזויפים ברשת, במטרה שהמערכות האוטומטיות יפיצו אותם הלאה.
החוקרים מסכמים כי למרות שמדובר במקרים לא שכיחים יחסית, עצם האפשרות שמערכות AI יחשפו מידע אישי אמיתי גם בטעות – מעלה שאלות כבדות משקל על אבטחת מידע, פרטיות והאחריות של חברות הטכנולוגיה בעידן הבינה המלאכותית.
