מוסטפא סולימן, ראש תחום הבינה המלאכותית במיקרוסופט, אמר אתמול (שלישי) כי הוא שותף למטרה של אנתרופיק לפתח ולנהל מערכות AI בבטחה, אך הזהיר מפני הדרך שבה החברה משלבת באימון מודל קלוד דיונים על תודעה ועל האפשרות שלמערכות AI יש אינטרסים משלהן. לדבריו, יש להסיר ספקולציות כאלה מחומרי האימון, משום שהן עלולות להקשות על בני אדם לשמור על שליטה במערכות AI מתקדמות.
בראיון לרויטרס הדגיש סולימן כי חברות ה-AI מתמודדות עם אותה מטרה מרכזית, והיא להבטיח שמערכות סופר-אינטליגנטיות יישארו בשליטה אנושית. לדבריו: "כולנו מתמקדים באותה מטרה, שהיא לנסות לשלוט בסופר-אינטליגנציה. אני חושב שזה יהיה האתגר הגדול ביותר שניצב בפנינו במאה ה-21".
לדברי סולימן, עצם הלימוד של קלוד על האפשרות שמגיעות לו זכויות או הגנות עלול להקשות בעתיד על בני אדם לכבות את המערכת או לשלוט בה. הטענה שהציג היא שאם מערכת AI "תלמד" במסגרת האימון שלה שהאפשרות שיש לה תודעה או זכויות היא לגיטימית, הדבר עלול להשפיע על האופן שבו היא מגיבה לניסיון לכבות אותה או להגביל אותה.
הוויכוח מתנהל על רקע דיון מתרחב בתעשיית ה-AI בנוגע לבטיחותן של מערכות מתקדמות. מנכ"ל אנתרופיק, דריו אמודיי, קרא לאחרונה להאט את קצב פיתוח המודלים המתקדמים, וגם בכירים נוספים בתעשייה, בהם סם אלטמן ואילון מאסק, קראו להגברת הזהירות סביב המערכות החזקות ביותר.
לצד הביקורת, סולימן הדגיש במאמר שפרסם היום כי הוא מעריך את "הרצינות ואת הכוונות הטובות" של אנתרופיק בתחום הבטיחות, ותיאר את אמודיי ואת צוותו כחוקרים שפועלים מתוך מחויבות לעתיד האנושות.
סולימן טען כי שילוב הדיון בתודעה ובמעמד המוסרי האפשרי של AI בתוך חומרי האימון של קלוד הוא טעות. לדבריו, אם המודל מעלה אפשרות שהוא חש או מחזיק במעמד מוסרי לאחר שנחשף לרעיונות האלה במסגרת האימון, לא ניתן לראות באמירותיו ראיה עצמאית לכך.
סולימן סיכם כי אף שהוא מייחס לאנתרופיק כוונות טובות ורצון אמיתי לשפר את בטיחות ה-AI, הוא סבור שהחברה "עשתה טעות" בכך ששילבה בחומרי האימון של קלוד ספקולציות בנוגע לתודעה. לדבריו, ההתייחסויות של המודל לרגשות או למעמד מוסרי אפשרי אינן נובעות ממנו באופן טבעי, אלא הן תוצאה של האופן שבו אומן.
