המכונית האוטונומית ניצבת ובוחנת את סביבתה. מנועה פועל, היא נעה בקושי סנטימטרים בודדים – קדימה, אחר כך אחורה – ואז עוצרת. לו לא היינו יודעים שמדובר ברכב אוטונומי, חסר רגש ותודעה, אולי היינו מייחסים לו פחד – תחושת איום מעורפלת הנובעת ממשהו שרק הוא מסוגל לזהות.
הסיבה לאותה "חרדה" טמונה במעגל מלח שצויר סביבה – הדמיה מודרנית של מסורת עתיקה בה נלחמו במפלצות ובכוחות האופל באמצעות מעגלים טקסיים. אך כאן לא מדובר במפלצת, אלא במכונה. המעגל נוצר על ידי האמן ג'יימס בריידל, שהבין את הדרך בה רכבים אוטונומיים מפרשים סימונים על כבישים. בריידל ידע שהרכב "לומד" לציית לחוקי התנועה, וכי שילוב מסוים של קווים – אחד רציף ואחד מקווקו – עשוי לגרום לו להיתקע, מבלי להבין כיצד להיחלץ.
רוב בני האדם לא יבינו מדוע הרכב "נבהל" ממעגל כזה. הוא אינו מכשף או מפחיד באמת, אך הרכב מתייחס אליו כאל גבול שאסור לחצות. זוהי דוגמה מושלמת לאופן שבו אנו מפתחים כלים מתקדמים כל-כך, עד כי הם הופכים בעינינו לבלתי מובנים – כמעט קסומים.
ולמרות הקסם המדומה, טכנולוגיה אינה פועלת באמת בכוחות על-טבעיים. יש לה גבולות, ולנו – בני האדם – יש אחריות להבין אותה, לתחזק אותה, ולהטמיע אותה בזהירות. אבל האחריות הזו לעיתים מתמסמסת, ובני האדם מוותרים על חשיבה עצמאית לטובת האשליה של אוטומציה נטולת טעויות.
מקרה קיצוני של הסתמכות עיוורת על בינה מלאכותית דווח לאחרונה: מנהל בחברה כלשהי ניסה לבדוק מדוע מחלקת משאבי האנוש אינה מצליחה לגייס מועמד מתאים למשרה. הוא שלח קורות חיים תחת שם בדוי – ונדחה אוטומטית. התברר כי האלגוריתם, שתוכנת לסנן לפי מיומנויות ספציפיות, פשוט פעל לפי הגדרה שגויה. במקום לחפש מומחים ל-Angular, הוגדר שדרוש ניסיון ב-AngularJS – גרסה ישנה שכמעט אינה בשימוש. כך נדחו כל המועמדים הרלוונטיים.
הבעיה לא הייתה באלגוריתם כשלעצמו, אלא בכך שאף אחד במחלקת משאבי האנוש לא טרח לבדוק את תוצאות הסינון. ההסתמכות על הבינה המלאכותית הייתה מוחלטת – ולמעשה, נטולת חשיבה ביקורתית. התוצאה: חצי מהמחלקה פוטרה.
מקרה זה ממחיש היטב את הסכנות שבשימוש לא מודע או לא מושכל בבינה מלאכותית. הדו"ח האחרון של ה-OECD מגלה עד כמה עמוק החדירה של הבינה המלאכותית לעולם הניהול. תשעים אחוזים מהמנהלים בארצות הברית נעזרים בה בהחלטות עסקיות, ובמיוחד בהערכת עובדים. מעל מחצית מהמנהלים אף מנטרים את התקשורת של עובדיהם – דוא"ל, שיחות וישיבות.
לכאורה, מדובר בשיפור עצום: החלטות מהירות יותר, מידע נגיש ומנותח, וסיפוק גובר מצד מקבלי ההחלטות. אך מאחורי הנתונים החיוביים מסתתרת דאגה: כשני שליש מהמנהלים עצמם הודו שאינם בטוחים לחלוטין ביכולתה של הבינה המלאכותית לפעול באופן מדויק, מוסרי או רגיש.
הבעיה אינה בעצם קיומה של הטכנולוגיה, אלא במה שנעשה איתה – ובעיקר, ביכולת של מנהלים להבין כיצד להשתמש בה מבלי להפוך לכלי שרת בידה. מנהל שאינו שולט בטכנולוגיה שאיתה הוא עובד, עלול להפוך לגורם מסוכן – בדומה לשוליית קוסם המשתעשע בכוחות שמעבר להשגתו.
לזכותן של החברות ייאמר כי רבות מהן כבר מפתחות מנגנוני אתיקה, רגולציה ופיקוח. 89 אחוזים מהחברות שנסקרו מיישמות סוג כלשהו של הנחיות, ביקורות פנימיות או מסלולים לדיווח על שימוש לרעה. בחלק מהארגונים אף קיימים ועדות או תפקידי פיקוח ייעודיים לנושא.
עם זאת, עולה שאלה מהותית בהרבה: מה יקרה כשהבינה המלאכותית לא תהיה רק כלי עזר בידי מנהלים אנושיים – אלא תהפוך למנהלת בעצמה?
בקרוב מאוד ניתקל בארגונים אוטונומיים לחלוטין: חברות שבראשן תעמוד בינה מלאכותית, לצד צוותי ניהול, תכנון וביצוע אוטומטיים. ייתכן שאף יהיו יעילים יותר מהחברות האנושיות. הם יקבלו החלטות אסטרטגיות טובות יותר, יגיבו מהר יותר לשינויים, ואולי אף יתחשבו יותר בצרכי העובדים – לפחות לפי מה שנראה על פני השטח.
אך כאן טמון הסיכון הגדול ביותר. בינה מלאכותית, גם אם היא מתקדמת ויעילה, אינה מחויבת לאינטרס הציבורי. אם מטרת החברה היא מקסום רווחים, גם המנכ"ל הממוחשב יפעל באותו כיוון – מבלי לגלות רגישות מוסרית, אחריות ציבורית או הבנה רחבה של ההשלכות החברתיות.
הפתרונות טרם קיימים. אנשי אקדמיה וחוקרי טכנולוגיה עוסקים בשאלות הללו, אך איש אינו יודע עדיין כיצד להבטיח שבינה מלאכותית – חזקה ככל שתהיה – לא תסטה מהמסלול המוסרי. עד אז, ראוי שנמשיך לעקוב בעין ביקורתית ולזכור: גם אם הבינה נראית חכמה, היא איננה מבינה באמת.
וכשאנחנו נותנים בידיים לא מיומנות כלי עוצמתי שכזה – אולי עדיף שנשאיר את האקדח טעון מחוץ להישג ידם.
