במסגרת מסמך מדיניות והמלצות ששחרר נשיא ארה"ב ב-20 במרץ הצהיר כי ההתקדמות בתחומי ה-AI נמצאת בראש מעייניו אך החסרונות לא איחרו לבוא. המרוץ הטכנולוגי נתן את אותותיו ומיקרוסופט הודתה שקוד שנוצר על ידי ה-AI ללא השגחה אנושית נוטה לא להתחשב בנגישות.
הדוגמה שהביאה ענקית הטכנולוגיה בנוגע לייצוג מוטעה של עיוורים משקפת בעיה רחבה יותר: החסרונות של פיתוח מהיר של בינה מלאכותית ללא פיקוח אנושי מספק.
ליי-פלורי שעובדת בתאגיד כבר למעלה מ-20 שנה, ומונתה לראש קבוצת הטכנולוגיה המהימנה שלה בפברואר 2025, מסבירה כעת את החשיבות: לא רק של בניית טכנולוגיה אחראית אלא גם של שמירה עליה.
התפקיד של הצוות שהיא מובילה קשור באחראיות טכנולוגית, לרבות: זכויות אדם, נגישות, פרטיות ואמינות הרכיבים המרכיבים את המוצר. כשהתברר שה-AI של מיקרוסופט ייצג אנשים עיוורים בצורה שאינה מדויקת, סטריאוטיפית או לא נכונה החל הצוות שבראשה לפעול למען פתרון הסוגייה.
הבעיה הייתה כשמודל ה-AI של מיקרוסופט יצרו ייצוגים לא מדויקים או שגויים של אנשים עיוורים: עם כיסוי עיניים מלא, שימוש לא נכון במקל הליכה או כלב נחייה וייצוגים מוגזמים של עיוורון.
העובדה שהבינה המלאכותית לוקחת אינפורמציה מרחבי האינטרנט הביאה למהלך הבא של מיקרוסופט כחלק מניסיון לפתור את הסוגייה – רכישת גישה ל- 20 מיליון דקות של וידאו וטקסט מתוך מאגר הנתונים של החברה Be My Eyes . תפקידה של הפלטפורמה הזאת הוא לסייע לאנשים עיוורים ומכילה מאגר של חוויות ואינטראקציות אמיתיות של אנשים עם לקות ראייה.
המייסדת והמנכ"לית של Reliabl, אנני בראון מבהירה שהדבר אינו מהווה פתרון שלם לבעיה: "נתונים מגוונים יותר הם חלק מזה". בנוסף, לדבריה: "אם לא שמים לב למה שקורה בשכבת המטא-דאטה, כלומר איך מתויגות התמונות שהועלו למערך הנתונים שלך, זה כשלעצמו הולך ליצור הטיה".
מיקרוסופט מצטרפת לחברות נוספות שמשתפות באופן פומבי את נקודות התורפה, המסקנות ואופן הפעולה בו הן בוחרות לנקוט בזירה הטכנולוגית. חלק מההבנה היא שפיתוח ה-AI דורש שקיפות מלאה, יכולת לקבל ביקורת ולפעול בהתאם.
