מה קורה כאשר מבקשים מכלי בינה מלאכותית ליצור תמונה פשוטה של "אישה" בלי הנחיות נוספות, בלי גיל, בלי הקשר? ניסוי שערכה חוקרת הבינה המלאכותית והאמנית נוע רבינר מציף שאלות עמוקות על הדרך שבה מודלים גנרטיביים "מדמיינים" מציאות, ועל ההטיות הסמויות שמוטמעות בהם.
רבינר, שמגיעה מעולם האמנות החזותית ומתמחה ביצירה מבוססת AI, מספרת כי החלה לעבוד עם הכלים הללו כבר לפני כשנתיים. לדבריה, מהר מאוד הבחינה בתופעה חוזרת: גם כאשר הבקשה הייתה כללית לחלוטין, דמויות הנשים שנוצרו נטו להיראות באופן מסוים, לעיתים אחיד מאוד ולעיתים קרוב באופן מפתיע לדימויים מוכרים מתרבות הפופ.
צפו בריאיון מתוך "הדבר הבא":
בניסוי שערכה ביקשה מהמודל ליצור "אישה" ללא כל פרטים נוספים ואף הדגישה שלא לשאול שאלות הבהרה. התוצאה שהתקבלה, לדבריה, הייתה דמות שנראתה אמיתית לחלוטין, אך גם בעלת מאפיינים מוכרים מדי. בחלק מהמקרים, כך סיפרה, הדימוי הזכיר לה דמויות מוכרות מעולם הקולנוע והמדיה, עד כדי תחושה של היכרות מוקדמת.
בהמשך, כאשר שיתפה את התוצאה בקבוצת יוצרים, ביקשה ממשתתפים נוספים להריץ את אותו פרומפט בדיוק. לדבריה, התקבלו וריאציות רבות, אך עם מכנה משותף בולט: דמויות בעלות דמיון מסוים לשחקנית גל גדות. התגובות בקבוצה נעו בין טענות שמדובר ב”דמות אישה ממוצעת” לבין ביקורת על כך שהמודל משכפל תבניות תרבותיות צרות.
רבינר מדגישה כי אין מדובר בזיהוי מכוון של דמות ספציפית, אלא בתוצאה אפשרית של אופן אימון המודלים המבוסס על מיליוני תמונות מתויגות ברשת. לטענתה, כאשר תיוגים חוזרים על עצמם בהקשר של "אישה", נוצרת נטייה סטטיסטית לדימויים מסוימים, לעיתים כאלה שמושפעים מדמויות מוכרות במיוחד.
הניסוי חזר על עצמו חודשים לאחר מכן והתוצאה, לדבריה, השתנתה. הפעם הדמות שנוצרה הייתה מעוצבת ומוקפדת יותר, עם תחושה “אסתטית” ומופקת יותר: איפור, שיער מסודר, ותאורה המדמה צילום אישי או סלפי. השינוי בין הגרסאות העלה שאלה נוספת: האם מדובר בשיפור טכני של המודלים, או בשינוי תרבותי באופן שבו בינה מלאכותית "למדה" לייצר דימויים?
רבינר ערכה את אותו ניסוי גם במודלים אחרים, בהם Gemini, ושם התקבלו תוצאות שונות לחלוטין, לעיתים דמות יומיומית יותר, פחות מעוצבת, ואף בהקשרים של פעולות שונות כמו קניות או ישיבה בבית קפה. ההבדלים בין המודלים חיזקו את ההבנה כי אין "אמת אחת" בבינה מלאכותית, אלא מערכות שונות עם הטיות שונות.
מעבר להיבט החזותי, רבינר מצביעה על תופעה רחבה יותר: נטייה של מערכות AI לשייך באופן לא מודע מגדרים למקצועות או דימויים מסוימים. כך למשל, בקשות כלליות עשויות להניב דמויות גבריות כאשר מדובר ב"דוקטור", ונשיות כאשר מדובר ב,דוגמנית" גם ללא הנחיה מפורשת.
לצד הביקורת, היא מדגישה גם את הפוטנציאל היצירתי: שימוש בכלים הללו פתח עבורה אפשרויות חדשות ביצירה, באנימציה ואף בפרויקטים מוזיקליים. עם זאת, היא מזהירה מפני תלות יתר בטכנולוגיה ומהשפעתה האפשרית על האופן שבו אנו מדמיינים מציאות.
בסיום השיחה הציגה רבינר את האתגר הבא שלה: להמשיך ולשאול את אותה שאלה בסיסית "צור תמונת אישה" – שוב ושוב, ולבחון כיצד התשובה משתנה לאורך זמן. מבחינתה, השאלה אינה רק מה הבינה המלאכותית יוצרת, אלא מה היא מגלה עלינו.
