בסוף מרץ 2025, OpenAI השיקה את מודל GPT-4o הכולל בין היתר יכולת ליצור תמונות עם טקסטים מוטמעים ברמת דיוק גבוהה. בתוך ימים ספורים מהשקת הכלי, החלו להופיע ברשתות החברתיות דוגמאות לשימוש ביצירת קבלות מסעדה מזויפות, שנראות כמו מסמכים אותנטיים.
משתמשים שונים ברשת X (לשעבר טוויטר) הציגו תמונות של קבלות שיוצרו באמצעות GPT-4o. דידי דאס, משקיע טכנולוגי פעיל, פרסם צילום של קבלה ממסעדת סטייקים מוכרת בסן פרנסיסקו, אשר לטענתו נוצרה במלואה על ידי המודל. משתמש אחר, מייקל גופמן, שיתף גרסה נוספת שכללה סימני לכלוך וכתמים – מה שמדמה קבלה אמיתית שעברה שימוש.
אתר TechCrunch בדק את הכלי ויצר באמצעותו קבלה מזויפת על שם רשת המסעדות Applebee’s בסן פרנסיסקו. עם זאת, בתמונה שנוצרה נמצאו כמה סימנים ברורים לכך שהיא איננה אמיתית: בין היתר נעשה שימוש בפסיק במקום נקודה לציון סכום הכסף, והסכומים בחשבון לא התאימו מבחינה מתמטית. טעויות אלו ניתנות לתיקון בקלות יחסית באמצעות תוכנת עריכה גרפית או ניסוחים מדויקים יותר בהזנת הפקודות למערכת.
משתמש נוסף, שפעל בצרפת, העלה תמונה של קבלה מקומטת שנראתה כאילו צולמה במסעדה מקומית, אך גם היא נוצרה על ידי GPT-4o.
OpenAI אישרה כי כל התמונות שנוצרות באמצעות המערכת כוללות מטא־דאטה (metadata) שמעיד על כך שמדובר ביצירה שנוצרה על ידי ChatGPT. עם זאת, התמונות עצמן נראות לעין אנושית כאמיתיות, מה שעלול להקשות על גורמים שאינם טכנולוגיים לזהות זיופים.
טיה כריסטיאנסון, דוברת OpenAI, מסרה כי החברה מבקשת לאפשר חופש יצירתי למשתמשים, וכי שימוש בקבלות מלאכותיות עשוי להיות לגיטימי בהקשרים שאינם הונאה – לדוגמה, בהדרכת אוריינות פיננסית, פרויקטים אמנותיים, או הדמיות פרסומיות.
במדיניות השימוש של OpenAI מצוין כי נאסר להשתמש בטכנולוגיה לביצוע הונאות. החברה מציינת כי היא פועלת נגד משתמשים המפרים את תנאי השימוש, ושהיא מתעדכנת באופן שוטף על בסיס פידבק מהשטח.
כיום, מערכות רבות במגזר הציבורי והפרטי מסתמכות על תצלומים ומסמכים כראיה לאימות נתונים, כולל בהליכי החזר הוצאות, החזרים כספיים, תביעות ביטוח והליכים משפטיים. הפוטנציאל ליצירת מסמכים מזויפים באיכות גבוהה עשוי להשפיע על תהליכים אלה, במיוחד כאשר נדרש אימות מהיר שאינו כולל בדיקת מקור הקובץ.
