גוגל משיקה כלי חדש אשר מאפשר לכלל הציבור לבדוק האם תוכן דיגיטלי נוצר באמצעות בינה מלאכותית. השירות מבוסס על טכנולוגיית SynthID, ומאפשר לבחון תמונות, סרטוני וידאו וקובצי אודיו. עד כה, הכלי היה זמין באופן מוגבל ושימש בעיקר עיתונאים, אנשי תקשורת וחוקרים לצורכי בדיקה, אך כעת הוחלט לפתוח אותו לשימוש נרחב.
המערכת תומכת במגוון רחב של פורמטים. בתחום התמונות, המשתמשים יכולים להעלות לבדיקה קובצי JPG, PNG, WEBP, AVIF, HEIC ו-TIFF. בבדיקת קובצי וידאו, המערכת תומכת בפורמטים MP4, MOV ו-WEBM. בנוסף, בתחום האודיו ניתן לבדוק קבצים בפורמטים WAV, MP3, OGG, FLAC, AAC ו-M4A. פתיחת השירות מאפשרת כעת לכל אחד לבדוק קבצים אלו.
איך פועלת טכנולוגיית הזיהוי?
טכנולוגיית SynthID הוצגה על ידי גוגל כבר ב-2023. המערכת פועלת באמצעות הטמעה של סימן מים דיגיטלי בתכנים שנוצרים באמצעות מודלי הבינה המלאכותית של החברה. סימן המים מאפשר לזהות את התכנים גם לאחר שעברו עריכה או שינוי מסוים. לדברי גוגל, משתמשים מבצעים כיום כ-1 מיליון בדיקות תוכן באמצעות הטכנולוגיה מדי יום.
בין המודלים והשירותים של גוגל אשר משתמשים בטכנולוגיית SynthID ניתן למצוא את Nano Banana, Veo ו-Lyria. כמו כן, הטכנולוגיה משולבת בכלים נוספים, ובהם Gemini, Flow, ProducerAI ו-Vids. מעבר לכך, גוגל שילבה את יכולות האימות של המערכת גם באפליקציית Gemini ובדפדפן Chrome, במטרה לאפשר זיהוי של תוכן שנוצר באמצעות בינה מלאכותית.
התמודדות גלובלית עם תוכן מלאכותי?
הטכנולוגיה של גוגל אינה מוגבלת רק למערכות הפנימיות שלה. חברות נוספות בתעשייה, ובהן OpenAI, אנבידיה ו-Kakao, תומכות גם הן ב-SynthID, בעוד שחברת אפל צפויה להוסיף תמיכה בטכנולוגיה בהמשך.
במקביל, OpenAI מפעילה כלי עצמאי משלה לבדיקת תוכן. גם חברות כמו מיקרוסופט ומטא מפתחות כיום תקנים וכלים משלהן לסימון ולאימות של תוכן שנוצר באמצעות בינה מלאכותית.
המאמץ של חברות הטכנולוגיה נועד להתמודד עם הקושי להבחין בין תוכן אנושי לתוכן שנוצר על ידי בינה מלאכותית. עם זאת, זיהוי התוכן עדיין אינו חסין מטעויות. כלים אלו עלולים שלא לזהות בהצלחה תכנים שנוצרו באמצעות מודלים של החברות עצמן, או להיכשל בזיהוי של תוכן שעבר שינויים משמעותיים.
