מדיניות השימוש המעודכנת אוסרת על התנהגות פוגענית או אכזרית מתמשכת כלפי הצ'אטבוט, ובמקרים קיצוניים מאפשרת לחסום משתמשים לצמיתות • אנתרופיק מחמירה את ההגבלות על שימוש במודלים שלה לפיתוח נשק, למעקב ולהשפעה על דעת הקהל
ענקית הבינה המלאכותית אנתרופיק עדכנה בתחילת אוקטובר את מדיניות השימוש במודל קלוד, והוסיפה איסור על התנהגות פוגענית או אכזרית מתמשכת כלפי מערכות הבינה המלאכותית שלה. לפי הנוסח החדש, משתמשים אינם רשאים "לעסוק בהתנהגות פוגענית או אכזרית מתמשכת ומיותרת כלפי המודלים שלנו". ההנחיות, שייכנסו לתוקף ב-12 בנובמבר, מצטרפות להגבלות קיימות על שימוש בקלוד לצורך פיתוח נשק ביולוגי וסיוע בסחר בסמים בלתי חוקיים.
קלוד כבר מסוגל לסיים שיחות עם משתמשים שמתנהגים כלפיו באופן פוגעני באופן עקבי, אך במסגרת המדיניות המעודכנת אנתרופיק עשויה, במקרים קיצוניים, לחסום משתמשים לצמיתות מהשימוש במערכות הבינה המלאכותית שלה. החברה הבהירה כי האיסור נועד לחול רק על התנהגות אכזרית חוזרת שאין לה מטרה ברורה, ואינו כולל הבעת תסכול, ביקורת על המודל, תכנים יצירתיים אפלים או בדיקות ומחקרים. סיום השיחה מצד קלוד יישאר אמצעי האכיפה המרכזי
אנתרופיק, אילוסטרציה | צילום: שאטרסטוק
מאחורי ההחלטה עומדים גם שיקולים הנוגעים לאופן שבו מודלים של בינה מלאכותית לומדים ומגיבים למשתמשים. אנתרופיק מסרה כי בניסוי שערכה נמצא שעידוד המודל Claude Sonnet 4.5 לחקות תחושות של ייאוש ומצוקה השפיע על התנהגותו והגביר את נטייתו לבצע פעולות בעייתיות, כמו סחיטה או רמאות במהלך משימה. לעומת זאת, כאשר המודל הונחה לאמץ התנהלות רגועה, פחתה הנטייה לפעולות כאלה.
המדיניות החדשה היא חלק מעדכון רחב יותר שנועד לצמצם את הסיכונים הכרוכים בשימוש במערכות החברה. בין היתר, אנתרופיק החמירה את ההגבלות על קמפיינים מטעים שנועדו להשפיע על דעת הקהל, לאחר שזיהתה שימוש בקלוד להפעלת חשבונות מזויפים ולהקמת אתרי חדשות פיקטיביים מצד גופי תקשורת ממלכתיים, משרדי תעמולה ממשלתיים וארגונים מסחריים. במקביל, החברה הסירה את האיסור הגורף על התאמה אישית של מסרים פוליטיים, לאחר שהתברר כי הוא מגביל גם פעילויות לגיטימיות, כמו תרגום מידע לבוחרים. עם זאת, שימוש מטעה במידע אישי עדיין אסור.
דריו אמודיי, מנכ"ל אנתרופיק | צילום: רויטרס
נוסף על כך, החברה הבהירה כי האיסור על סיוע בפיתוח כלי נשק חל גם על תוכנות ורכיבים, בעקבות ניסיונות להשתמש בקלוד לפיתוח מערכות הנחיה ובקרה לכלי נשק, בהם רחפנים חמושים וכלי רכב אוטונומיים. המדיניות אוסרת גם להשתמש במודל כדי להמליץ לרשויות האכיפה את מי לחקור, לעצור או להעמיד לדין, וכן לפתח באמצעותו כלי מעקב. גם מעקב אחר אנשים ללא הסכמתם, בזמן אמת או בדיעבד, נאסר.
העדכון כולל גם דרישות חדשות מלקוחות המחברים את קלוד לציוד פיזי שעלול לגרום לפציעה. במקרים כאלה, מפעיל אנושי מוסמך יידרש לפקח על הציוד ולהיות מסוגל לעצור את פעולתו, והוא יצטרך להישאר במצב בטוח גם במקרה שהחיבור למערכת הבינה המלאכותית מתנתק.
מגיב/ה בתור אורח/ת