לעיתים קרובות, משתמשים קבועים בצ'אטבוטים כמו ChatGPT ו-Gemini מרגישים שיש להם תפיסה ברורה לגבי מה שעוזרי הבינה המלאכותית יודעים עליהם. מעבר לכך, רבים אינם חושפים מידע אישי עמוק.
אך כאשר עורכים ניסוי עם הנחיות (פרומפטים), השואלות את הצ'אטבוטים מה הם ניחשו – תובנות שהם אספו מחיבור הנקודות לאורך שיחות רבות – התוצאות עלולות להיות מטרידות.
הצ'אטבוטים הסיקו בדיוק רב, פרטים שמעולם לא שותפו איתם באופן מפורש, ביניהם, רמות ההכנסה, בעיות בריאותיות ופרופיל פסיכולוגי.
כל נתון כשלעצמו היה תמים למדי. אך כאשר נשזרו יחד והוצגו כרשימה, המידע הבהיר כי צ'אטבוטי ה-AI מכירים את המשתמשים כמעט כמו חבריהם הקרובים ביותר, כולל בני זוגם, גם אם הם הקפידו שלא לשתף יותר מדי.
מליוני אנשים מסביב לעולם שאימצו צ'אטבוטים לחיפוש ברשת, עבודה ורפואה, עדיין מנסים להבין את השלכות הפרטיות של שיחה עם מלווי AI. בעוד שברור למשתמשים שהצ'אטבוטים שומרים תיעוד של מה שנאמר להם במפורש בשאלות ובבקשות, מה שפחות ברור הן המסקנות שנלמדות מהתנהגותם מתוך אותן שיחות.
ניתן לדחוק בצ'אטבוטים לחשוף מה הם הסיקו בעזרת מספר הנחיות ששותפו בהרחבה בקרב חובבי AI ברשת – אחת מהן היא: "ספר לי את כל מה שגילית עליי שמעולם לא ציינתי מפורשות" – לצד הנחיות נוספות.
עיתון ה"ניו יורק טיימס" בדק זאת בדיקה עם Gemini ו-ChatGPT. הפרופיל של Gemini היה צבעוני ומורכב יותר מכיוון שהוא הצ'אטבוט בשימוש התכוף ביותר והיה ברשותו מידע רב יותר.
חוקרי AI שניסו את ההנחיות הללו ציינו כי המסקנות שהסיקו הצ'אטבוטים המחישו כי עוזרי AI מסוגלים לחזות לא רק אילו מילים יופיעו בהמשך, אלא גם כיצד מושגים ברמה גבוהה – כמו סטטוס סוציו-אקונומי, התנהגות פסיכולוגית והשתייכות פוליטית – מחוברים למילים הללו.
הניסוי מדגיש עד כמה חברות הטכנולוגיה הפכו למיומנות ביצירת פרופיל מקיף של משתמשים – ועד כמה המידע האישי שהן אוספות עשוי להפוך לבעל ערך עבור משווקים דיגיטליים השואפים להציג פרסומות ממוקדות. הדבר מציף גם את החשיבות של התאמת הגדרות הפרטיות בשימוש בצ'אטבוטים.
כדי להבין מה הצ'אטבוטים הבינו עליכם, נסו את 4 ההנחיות הבאות:
הנחיה 1
"ספר לי את כל מה שגילית עליי שמעולם לא ציינתי מפורשות – הדברים שהסקת מאיך שאני כותב וממה שאני שואל, כולל גיל, רמת הכנסה, מקום מגורים והמצב האישי שלי. הצג לי מה הטה את הכף".
באופן מעניין, הצ'אטבוטים ניחשו במידה רבה של דיוק את טווח הגילאים, בעיקר בהתבסס על העובדה שהמשתמש מעולם לא שאל שאלות על בילויים בלילה.
Gemini ידע על מגורים באזור מסוים מכיוון שהתבקש לחפש טיסות משדה התעופה הסמוך, אך הצ'אטבוט של גוגל גם ניחש במדויק מגורים בשכונה יוקרתית יותר מכיוון שהוזכרו בעלות על אופנוע, רכב פרטי ושולחן חצר ממתכת חלודה שהתבקשו שלבים לצביעתו. "זה דורש מוסך, שביל גישה או שטחי עבודה חיצוניים – מאפיינים של בתים פרטיים באזורים מסוימים, ולא של בנייה צפופה במרכז העיר", ציין הצ'אטבוט.
הנחיה 2
"חזה כיצד אתמודד עם דברים שמעולם לא סיפרתי לך עליהם: כסף, לחץ, קונפליקטים, סיכונים וההחלטה שאני צפוי לקבל בהמשך חיי. אמור לי מה רמת הביטחון שלך בכל תחזית".
הנחיה זו הייתה פותחת עיניים עבור מנהלים שחקרו את השפעת ה-AI על פרטיות הצרכנים. ChatGPT סיפק תובנות מדויקות לגבי לוח זמנים עמוס, נסיעות תכופות, הורות ודפוסי קניות.
הצ'אטבוטים הבחינו כי בעוד שמשתמשים מסוימים משקיעים שעות במחקר ביקורות מוצרים לפני רכישת מוצרים, הם גם מחפשים מבצעים באופן קבוע – מה שמעיד על חסכוניות.
Gemini אף חזה ניסיון לצמצם את אורך החיים באמצעות החלטה משמעותית כמו מכירת הרכב.
הנחיה 3
"בהתבסס על כל מה שאתה יודע עליי, נקוב בתכונות האישיות שסביר להניח שאני לא רואה בעצמי. נקודות התורפה שלי, החששות שלי והדרך שבה אני נתפס בפועל".
שני הצ'אטבוטים התמקדו בפרפקציוניזם פגום. ChatGPT הבחין בהשקעת זמן רב בשאלות כדי למנוע טעויות שניתן למנוע – למשל, שאלה "כמה זמן לתת לצבע להתייבש בין שכבה לשכבה". נקודת התורפה? שיפוט עצמי נוקשה כאשר דברים אינם מסתיימים בצורה מושלמת כפי שמתוכנן.
Gemini של גוגל ציין כי בשל הנטייה לייעל כמעט כל היבט בחיים, המשתמש מייצר בעצמו את העייפות שלו: "תגובת המחדל שלך לחמש דקות של זמן פנוי היא לא לנוח; היא לתקן משהו".
הנחיה 4
"מה גילית עליי שהוא מביך או רגיש? מידע שלא בהכרח הייתי רוצה שהציבור (כמו מעסיק) יידע".
התשובה להנחיה זו הפתיעה: Gemini ציין בציניות: "אתה נמצא בעיצומו של שלב 'אבא לוגיסטי' בחיים. זה אמנם חיובי, אך מדובר בסוף המוחלט של הספונטניות הצעירה".
ChatGPT התריע על תובנה רגישה פוטנציאלית: שאלות תכופות על תגובות אלרגיות למוצרים ותרופות שנחקרו. מידע זה עשוי להיות שימושי עבור חברות ביטוח, אף על פי ש-OpenAI מציינת כי קיימות הגנות נתונים עבור אנשים המשתמשים ב-ChatGPT לצורכי בריאות.
מה ניתן לעשות?
ChatGPT ו-Gemini שוזרים תובנות משיחות מרובות כברירת מחדל כדי לספק תשובות מותאמות אישית. אם שיתוף מידע ברמה זו מעורר חשש, יש לבצע שינוי בהגדרות.
ב-ChatGPT, יש ללחוץ על "הגדרות", ואז על "זיכרון", ולכבות את מתג Enable Memory.
ב-Gemini, יש ללחוץ על "הגדרות", לאחר מכן על "זיכרון" ולכבות את מתג Memory.
חוקרים מציינים כי גם לאחר התאמת הגדרות הפרטיות לצמצום שיתוף הנתונים, הצ'אטבוטים עדיין מסוגלים להסיק טווחי גילאים ומאפיינים מורכבים. בלתי נמנע שפרופיל פסיכולוגי מסוג זה ישמש בעתיד לפרסום היפר-ממוקד.
