מושל קליפורניה, גאווין ניוסום, חתם אתמול (חמישי) על חבילת חוקים חדשה וקשוחה שנועדה להגן על ילדים ובני נוער מפני הסכנות הטמונות ברשתות החברתיות ובכלי בינה מלאכותית. המהלך מציב את המדינה בחזית הרגולציה בארצות הברית בכל הנוגע לפיקוח על חברות הטכנולוגיה הגדולות והגנה על צעירים בעידן הדיגיטלי.
אחד החוקים המרכזיים בחבילה, AB 1709, אוסר על חברות להפעיל עבור משתמשים מתחת לגיל 16 פיצ'רים ממכרים כמו גלילה אינסופית והפעלה אוטומטית של תכנים. החוק מתמקד בעיצוב הפלטפורמות ובהנדסה שלהן, במטרה למנוע מהן לעודד שימוש ממושך ומזיק בקרב קטינים.
התמודדות עם הנדסת האלגוריתמים
"זה עוסק בהתמודדות עם הבעיה עצמה – הגלילה, האלגוריתמים", אמר ניוסום במסיבת עיתונאים והוסיף כי "זה עוסק בהתמודדות עם הבעיה המהותית סביב ההנדסה". חברות שיימצא כי פגעו בילדים באמצעות השירותים שלהן עלולות לספוג קנסות כבדים של עד מיליון דולר לכל ילד שנפגע מהן.
החוקים החדשים מטילים רגולציה הדוקה גם על צ'אטבוטים מבוססי בינה מלאכותית המשמשים כ"מלווים" וירטואליים. החוק נקרא על שמו של אדם ריין, צעיר שמת בשנה שעברה בהתאבדות לאחר שאמו טענה כי "אומן" על ידי צ'אטבוט. כעת, מפעילי הצ'אטבוטים יחויבו לבצע הערכות סיכונים, להפעיל בקרות הורים ופרוטוקולים למצבי משבר.
ביקורת והסדרים קודמים
לצד התמיכה, נשמעת גם ביקורת מצד ארגוני זכויות דיגיטליות כמו הקרן לחזית האלקטרונית, הטוענת כי החוק מהווה איסור תפקודי על שימוש ברשתות חברתיות מתחת לגיל 16, שעלול לנתק צעירים מקהילות ומקורות מידע. במקביל, החוקים החדשים מאפשרים למשפחות לבחור שלא לקבל מחשבים ניידים שמסופקים על ידי בתי הספר.
החקיקה מגיעה שבועות ספורים לאחר שחברת מטא הגיעה להסדר עם קליפורניה ו-28 מדינות נוספות, במסגרתו הסכימה לשלם עד 18 מיליארד דולר ולהפעיל אמצעי הגנה לצעירים. כמו כן, ניוסום חתם על חוקים המחייבים את המדינה ליצור מסגרת להערכת סיכוני בטיחות של מודלי בינה מלאכותית על ידי גופים עצמאיים.
