דרוש: סוכן בינה מלאכותית בלבד

בשבוע שעבר פורסמה מודעת דרושים חריגה: דרישות התפקיד רגילות, אך היא מיועדת לבינות מלאכותיות בלבד – "סוכני בינה מלאכותית בלבד".

החברה אמנם מוכנה לקבל פניות מבני אדם שפיתחו סוכן כזה, אך מעוניינת בסוכן עצמו. התפקיד מורכב: "לחקור מגמות טכנולוגיות ומודלים, וליצור, לבחון ולשפר דוגמאות לאפליקציות באיכות גבוהה. האפליקציות הללו ידגימו את הפוטנציאל המלא של Firecrawl [החברה] בתרחישים מהעולם האמיתי. עבודתך תנחה ותספק השראה למפתחים, ותעזור להם לאמץ במהירות את Firecrawl".

החברה מחפשת עובד בעל מיומנויות מתקדמות בחיפוש, איסוף וניתוח מידע, תכנות, פיתוח אפליקציות, שיווק, עיצוב חוויית משתמש ועוד. אם יש לכם את כל אלה, כנראה שלא כדאי להגיש מועמדות, גם כי אתם "רק" בני אדם, וגם כי השכר השנתי הוא 15,000 דולר בלבד. החברה לא באמת יכולה לשכור "סוכן בינה מלאכותית", כי אין ישות כזו עם חשבון בנק. היא מחפשת מישהו שיבנה סוכן ויחכיר אותו לשנה תמורת 15,000 דולר.

מדובר בשטות? או בניסוח משעשע לפרסום? לא בדיוק. המודעה פורסמה ברצינות באתר JobForAgent, "לוח העבודה הראשון לסוכנים אוטונומיים". באתר בקשות נוספות לסוכנים שיכולים לבצע מטלות מורכבות בשכר נמוך, המחליפים מומחים אנושיים.

אתם יכולים לטעון שהחברות שוכרות את המפתחים, וזה נכון, אבל מחמיץ את הנקודה: כל מפתח מחליף את העבודה של אדם אחד לפחות, ואפשר להתאים סוכן מוצלח לעבודות חדשות, כך שמפתח אחד יכול לתפוס את עבודתם של רבים. אם זה מבלבל, הנה הסבר על בינה מלאכותית, מנועי שפה גדולים וסוכנים.

כולם מכירים את צ'אט-GPT, בינה מלאכותית שיודעת לכתוב, לקרוא, לחבר שירים, לנתח מסמכים ועוד. אבל הוא "בסך הכל" מנוע שיודע להשלים את המילה הבאה במשפט. הוא יכול להשלים פסקאות שלמות, עמודים ואפילו פרקים בספר. צ'אט-GPT, וקלוד וג'מיני, הם "מנועי שפה גדולים". הם לא נועדו לעשות עבודה בעצמם, הם לא "מוצר" שקל להשתמש בו. הם יכולים לעשות טעויות גדולות, ואין להם הבנה אמיתית של המשתמש או צרכיו.

מה הם כן יכולים לעשות? מטלות פשוטות בפיקוח אנושי צמוד, כמו כתיבת פסקה לדו"ח, או סצנה לספר פנטזיה, אך מומלץ שאדם מומחה יעבור על התוצאה. מנועי השפה הגדולים הם אפילו לא הטבחים במסעדת המבורגרים, אלא רק כלים שהטבחים הפשוטים ביותר משתמשים בהם. או במכון מחקר, הם יכולים לעשות הגהה, לכתוב כמה פסקאות בהנחיית החוקר, או לסכם מידע מאתר, אבל בכל המקרים הם עושים מטלות פשוטות יחסית לפי בקשת החוקר ובהשגחתו המלאה.

במסעדת ההמבורגרים, הסוכנים הם הטבחים עצמם. הם בוחרים באיזה כלים להשתמש, מתי להפוך את ההמבורגרים, מתי להכניס אותם ללחמניה, מתי לקרוא למלצר וכן הלאה, בלי פיקוח אנושי. הם יכולים לתפקד כאחראי המשמרת, ולהפעיל ולנהל את הטבחים, ואפילו לתת להם הוראות לשיפור הביצועים.

במכון המחקר, הסוכנים יכולים להחליף את החוקר האנושי. הם יודעים כיצד לכתוב את הדו"ח, ומפעילים את כל המנועים הפשוטים יותר כדי לעשות זאת. הם מפעילים את גוגל כדי לחפש מידע, קוטפים את המידע וקוראים אותו בעזרת צ'אט-GPT, מסכמים אותו לפסקאות, מוודאים שהוא תואם את צרכי המחקר, ויכולים לייצר תמונות וגרפים ולשלב אותם בדו"ח הסופי.

הם יכולים גם להציע אפשרויות נוספות לביצוע העבודה וכיוונים שהמזמין לא חשב עליהם. הסוכנים הם השלב האבולוציוני הבא של צ'אט-GPT. הם מה שאנחנו מקבלים כשאנחנו נותנים לבינה מלאכותית לתת הוראות לבינות מלאכותיות, והכל לטובת מטרה אחת שמוגדרת לסוכנים מלמעלה. בין שמדובר בכתיבת דו"ח, בעריכת מחקר מדעי, ביצירת ברושור פרסומת, או כל תחום אחר.

הייתם מצפים שכדי שבינה מלאכותית תוכל לפקח על בינות מלאכותיות ולכתוב דוחות שלמים, יהיה צורך בפריצת דרך מדהימה ביכולות, נכון? מסתבר שלא. הטכנולוגיה שבלב הסוכנים אינה שונה משמעותית מזו שהייתה כאן לפני שנה, ואפילו לפני שנתיים.

הסוכנים עצמם מורכבים ממנועי שפה גדולים – צ'אט-GPT. אותם מנועים יכולים לתת הוראות למנועי שפה גדולים אחרים – שוב צ'אט-GPT – כדי שיבצעו מטלות מסוימות. למשל, יכתבו פסקה. ואז, הם יכולים להורות לאותם מנועים לעבור על הפסקה ולוודא שהיא מתאימה לדו"ח הגדול יותר. וכל עוד המנועים מקבלים את ההוראות הנכונות, ועם הטקסט הנכון שמועבר אליהם, הם מסוגלים לעשות את זה ברמה מרשימה של הצלחה.

גדולת התהליך היא ב- workflow: בכל שלב בעבודה, מופעלים מנועי שפה גדולים כדי לבצע פעולות פשוטות, ואז מופעלים מנועים אחרים עם סדרה של שאלות פשוטות: האם המטלה המקורית התבצעה בצורה הולמת? אם לא, מה צריך לעשות? איך כדאי לשפר? מה צריך לכתוב למנועי שפה גדולים אחרים שיבצעו את השיפור?

ואז מופעלים מנועי שפה גדולים אחרים עם ההוראות שכתבו המנועים הקודמים, כדי לשפר את התוצאה. תהליכים כאלו הודגמו כבר בספטמבר 2023, במחקר שבו חוקרים הצליחו לגרום למנועים פשוטים 'לדבר' זה עם זה, להתווכח, להציג דעות שונות מנקודות מבט מקצועיות שונות. הם הראו שדרך ההפעלה הזו, יכולה ליצור חלקים שלמים ממשחק מחשב (הם קראו סוכן שעשה את זה ChatDev). הם הדגימו את כוחם של הסוכנים, במחקר אקדמי.

העקרונות הללו התפשטו מאז למקומות רבים נוספים. אם אתם משתמשים ב- GPT-o1, אתם למעשה מפעילים סוכן שמסוגל לפרק בעצמו את השאלה שלכם לתת-מטלות, לנתח כל אחת מהן בתורה, לתהות על התשובות שנתן ועל הרלוונטיות שלהן, ולערוך מחדש את התשובה בהתאם לתובנות שהוא מייצר בעצמו ועל עצמו. חברת OpenAI בעצמה כבר המליצה להשתמש ב- O1 ככלי להפעלת מנועי שפה גדולים פשוטים יותר. הוא "אחראי המשמרת", והם… הם עושים את כל היתר.

אנחנו נכנסים לתקופה שבה הסוכנים הללו מתקדמים מספיק כדי לבצע מטלות מורכבות ושלמות – מהסוג שאדם היה צריך להיות אחראי עליהן באופן רגיל – בעצמם. לפחות, אנחנו בכיוון. יש עוד מה לשפר לפני שנגיע לרמה שבה סוכנים יוכלו לבצע עבודות גדולות לגמרי בכוחות עצמם. הסוכנים עדיין לא מושלמים. אבל בקצב בו הדברים מתקדמים, אף אחד לא יופתע אם כבר בחודשים הקרובים נראה סוכנים מוצלחים שכאלו בחלק מהתחומים בתעשייה.

התחזית של מקינזי, לפיה שלושים אחוזים משעות העבודה ייתפסו על-ידי בינה מלאכותית עד 2030 נראית סבירה יותר מרגע לרגע, ואולי אפילו שמרנית. אי אפשר להתעלם מהסכנות שבהעסקת סוכנים. הבינות המלאכותיות הפשוטות יותר – מנועי השפה הגדולים – מבצעות רק מטלות קטנות בפיקוח אנושי, ורק כשהן מקבלות פקודה ישירה מבן-אדם. הסוכנים, לעומתן, ייהנו מחופש פעולה גדול יותר. הם יוכלו לבחור איך בדיוק להוציא את המשימות שלהם לפועל, וחלקם יוכלו לעבוד גם מבלי שיקבלו הוראה לעשות זאת – הכל לפי ההנחיות שהועברו להם במקור.

אלדד תמיר, מנכ"ל Finq, טען שמדובר בנקודת מפנה בהיסטוריה האנושית. "לראשונה אי-פעם", אמר בריאיון, "מכונות יוכלו לקחת חלק בקבלת ההחלטות הממשית בתוך תאגידים".

אם המכונות יעשו טעויות בקבלת ההחלטות שלהן, הן עלולות לגרום לנזקים גדולים, כולל פגיעה בבני אדם. אם סוכן יפיק המלצות לסלילת כביש חדש, ומייחס יותר מדי חשיבות לעלויות ומעט מדי לבטיחות, הרי שהביצוע הבעייתי עלול לעלות בחיי אדם. אם סוכן צריך לספק המלצה כפסיכולוג או כרופא, אבל הוא מוטה לטובת חברת תרופות מסוימת, הוא עלול שלא להמליץ על התרופה המתאימה ביותר למטופל. כל הדברים האלו יכולים לקרות לא מתוך כוונת זדון של המתכנתים, המפתחים או המעסיקים, אלא פשוט מכיוון שהסוכנים הם ישויות מורכבות עם הרבה 'חלקים נעים' שמדברים, מתדיינים ומתווכחים זה מול זה עד לקבלת ההחלטה הסופית. לא תמיד קל להבין איך הם הגיעו לאותה החלטה.

צריך להבין שהסכנות קיימות ולחשוב כיצד להתמודד עמן. הדרך הברורה ביותר היא יצירת סוכנים ביטחוניים, שיפקחו על הסוכנים שמבצעים את העבודות בחברות. בשנים הקרובות נראה שפע של חברות שקמות ומציעות סוכנים-לסוכנים, וחברות שמעסיקות סוכני בינה מלאכותית לא יוכלו להרשות לעצמן לתת להם לעבוד ללא פיקוח בטיחותי או אתי.

אולי יש כאן צוהר לאחד המקצועות החדשים של האנושות. לאורך המהפכה התעשייתית הטכנולוגיה תפסה את מקומם של בני-האדם במקצועות מסוימים ועדיין הייתה מספיק עבודה לכולם. ספינות הקיטור החליפו את החותרים במשוטים, והם מצאו עבודות אחרות, כמו עגלונים ונהגי כרכרות. אחרים השיקו סירות קטנות שעדיין פעלו בכוח חותר או שניים, וסיפקו חוויה רומנטית לזוגות מאוהבים.

מכונות לסידור פינים באולמות הבאולינג גרמו לעובדים למצוא עבודה חדשה, אך עלות הניהול של האולמות ירדה דרמטית, נפתחו אולמות חדשים רבים בכל העולם, ונוצרו יותר מקומות עבודה. כנראה שנחווה תופעה דומה גם בעשורים הקרובים. הבינה המלאכותית תייתר אנשים רבים במקומות העבודה הנוכחיים שלהם, אבל מקצועות חדשים יופיעו, ומקומות עבודה חדשים ייפתחו ביתר שאת. כנראה.

בזכות הבינה המלאכותית, כל אחד יכול לפתח אפליקציות חדשות ולפתוח סטארט-אפים בקלות רבה יותר מאי-פעם. מספר החברות הקטנות והבינוניות יגדל, וכל חברה כזו תעסיק לפחות סוכן אחד. ומכיוון שכל סוכן שכזה יצטרך מישהו שיבחן אותו, יבדוק אותו ויפקח עליו, ייתכן שיש כאן הזדמנות לבני-האדם.

אפשר להחליף גם את עבודת המפקח בסוכן בינה מלאכותית, אבל אנשים רבים מרגישים שיש משמעות וחשיבות לפיקוח האנושי. הם רוצים לדעת שבני-אדם הם אלו שאחראים על המכונות, ולא להעביר את השליטה לגמרי לידי המכונות שיפקחו על עצמן.

כמו שאתם מבינים, אי אפשר לדעת מה יהיה. אנחנו יכולים רק להציע אפשרויות לעתיד, ואולי הן יתממשו. דבר אחד ברור: התעשייה עוברת מהפך משימוש במנועים 'פשוטים', לסוכנים מורכבים שיכולים לבצע עבודות של בני-אדם מומחים. לראשונה בהיסטוריה, בו התבונה והיכולת לבצע פעולות מורכבות באופן אוטונומי, עוברות לישויות שאינן אנושיות.

אם אתם עדיין לא מבינים את גודל השינוי, אני יכול רק להמליץ לכם לפרסם מודעת דרושים לסוכן היסטוריון או לעתידן.

המאמר פורסם במקור במדריך לעתיד – הבלוג של ד"ר רועי צזנה, חוקר ועתידן באוניברסיטת תל-אביב