הבינה המלאכותית הפכה לכלי עבודה מרכזי עבור עובדים, ארגונים ועסקים, אך לצד היתרונות היא גם מייצרת סיכונים חדשים. בריאיון לתוכנית "בורסה לייב" עם סוניה גורודיסקי, הזהירה אריאל פלג, אסטרטגית חדשנות וחברה בצוות ההיגוי של מרכז החדשנות בלשכה לטכנולוגיות המידע בישראל, מפני התלות ההולכת וגוברת בכלי AI.
לדבריה, מחקרים מצביעים על כך ששימוש אינטנסיבי בבינה מלאכותית עלול להוביל לעומס קוגניטיבי מצטבר, לירידה בחשיבה ביקורתית ואף להסתמכות מוגזמת על תשובות שמספקים המודלים.
“AI עושים באחריות או שלא עושים בכלל”, אמרה פלג. "אנחנו כבר רואים מצבים שבהם הכלים אינם זמינים, ואנשים כותבים בפורומים מקצועיים שהם לא יכולים לעבוד, לא יעמדו בדדליין או שפשוט הולכים הביתה כי ה-AI לא עובד. לפני שנתיים ושלוש ידענו להכין מצגות לבד ולתכנת לבד."
לדבריה, התלות אינה רק מקצועית אלא גם כלכלית. פלג ציינה כי ארגונים רבים מגלים שהשימוש בסוכני AI ובמודלים מתקדמים הופך ליקר משמעותית מהצפוי. היא התייחסה לדיווח שלפיו חברה אחת שילמה לאנתרופיק סכום של כחצי מיליארד דולר בחודש עבור השימוש במודל Claude, כדוגמה לכך ששימוש בלתי מבוקר עלול להוביל להוצאות עתק.
פלג הסבירה כי כלכלת הבינה המלאכותית מבוססת על "טוקנים" יחידות החיוב של המודלים וכי משתמשים רבים אינם מודעים לעלות האמיתית של השימוש. "זה כמו להיכנס לסופר ולהעמיס מוצרים לעגלה בלי לדעת כמה כל אחד מהם עולה", אמרה.
לדבריה, הבעיה משמעותית במיוחד עבור עסקים שפיתחו שירותים המבוססים על AI. "אם חברה פרטית משנה את מחירי הטוקנים או את תנאי השימוש, עסק קטן שבנה מערכת שירות שלמה על המודל עלול למצוא את עצמו ללא פתרון בן לילה."
פלג הדגישה כי האחריות להתמודדות עם האתגר מוטלת הן על המשתמשים והן על הארגונים. לדבריה, מנהלי כספים צריכים לבחון את כלל העלויות הכרוכות בהטמעת AI ולוודא שהחיסכון בכוח אדם אינו מתבטל בשל הוצאות גבוהות על שירותי בינה מלאכותית.
במקביל קראה המדינה להדביק את הפער הרגולטורי. לדבריה, קיימת כיום "התקדמות מהירה בשטח לצד פיגור משמעותי במישור המשפטי והתפעולי".
במסגרת זו הציגה פלג את מיזם AI Arena, שמקדם מרכז החדשנות של הלשכה לטכנולוגיות המידע בשיתוף הממשלה. לדבריה, המיזם נועד לאפשר לסטארט-אפים לבחון במהירות ובאופן בטוח את ביצועי מודלי ה-AI שלהם, לזהות כשלים ולהימנע מהשקעה בכלים שאינם אפקטיביים.
לדבריה, פיתוח מנגנוני בקרה מוקדמים עשוי לצמצם שימוש לא יעיל בבינה מלאכותית, לחסוך משאבים ולהפחית את התלות ההולכת וגוברת של ארגונים ומשתמשים בטכנולוגיה.
