השימוש בבינה מלאכותית משנה את היקף ואת התחכום של ההונאות המקוונות, שהפכו כבר לתופעה רחבה בארה"ב. בסקר של AP-NORC, נמצא כי 98% מהאמריקאים אומרים כי נתקלו בניסיון הונאה, כאשר רבים מהם נחשפים לניסיונות כאלה מדי יום.
הסימנים שהסגירו בעבר תוכן שנוצר באמצעות AI הולכים ונעשים פחות בולטים. מצמוץ שנראה מלאכותי, פנים שנראות מושלמות מדי או קול בעל גוון רובוטי כבר אינם בהכרח מופיעים בזיופים החדשים, שמצליחים להיראות ולהישמע אמינים יותר. התוצאה היא שהיכולת להבחין בין תוכן אמיתי למזויף רק באמצעות צפייה או הקשבה הולכת ונחלשת.
כדי להמחיש עד כמה השתכללה הטכנולוגיה, AP ו-FRONTLINE של PBS שיתפו פעולה עם מומחי AI מ-ForenSwiss ו-GetReal Security. במסגרת שיתוף הפעולה נבדקה היכולת ליצור ולשנות תמונות ותכנים כך שייראו אמיתיים, עד כדי קושי להבחין בין מקור אמיתי לזיוף.
למרות השיפור המהיר ביכולות הדיפ-פייק, עדיין קיימים פרטים קטנים שעשויים להסגיר את הזיוף. לדברי אינס פינטון מ-ForenSwiss, אחד המקומות שכדאי לבחון הוא אזור הפה: כאשר השפתיים צריכות להיסגר לחלוטין במהלך הגיית צלילים מסוימים, המערכת עלולה להתקשות ליצור התאמה מדויקת בין הדיבור לתנועה. גם טשטוש באזור השיניים וחלל הפה, לצד קול שנשמע אחיד מדי או חסר נשימה טבעית, עשויים להוות סימני אזהרה.
בדיקת פרטים כמו צללים, השתקפויות, ידיים ותווי פנים יכולה לעזור לעורר חשד, אך היא אינה יכולה לשמש כבדיקת מקור חד-משמעית. תמונה שבה הידיים נראות מעוותות עשויה להיות מזויפת, אבל גם תמונה שבה כל הפרטים נראים תקינים אינה בהכרח אמיתית. לכן, היעדר פגם אינו הוכחה לאותנטיות.
הטכנולוגיה כבר מתקרבת לנקודה שבה גם עין אנושית מיומנת לא תמיד תוכל להבחין בין מקור אמיתי לזיוף. לכן, הדרך להתמודד עם תוכן חשוד עשויה לעבור מהתבוננות בפרטים הקטנים לבדיקת המקור עצמו – מי פרסם אותו, מאיפה הגיע והאם ניתן לאמת אותו באמצעות מקורות נוספים. העובדה שתמונה או סרטון נראים אמינים כבר אינה מספיקה כדי לקבוע שהם אמיתיים.
