לסוכנים שלכם אין שם, והם לא סוכנים. אז די.

בעבר, כשבני האדם נתקלו בתופעה שהיה להם קשה להסביר או להבין — הם המציאו סיפורים מופלאים על המכאניקה של הדבר, כמו שהם היו רוצים שהיא תעבוד — בצורה פשוטה וברורה. רעמים? ברקים? מהשמיים? בטח יש אלוהים דמוי־אדם שיושב על ההר הכי גבוה שכועס ומעניש אותנו על משהו שעשינו. אני שותה קצת יין ולא שולט במעשים שלי? אל היין והאקסטזה, דיוניסוס, השתלט עלי. המכאניזם הזה, לתת תכונות אנושיות לגורמים שאנחנו לא מצליחים להסביר או להבין — היא כשלעצמה מאוד אנושית. אפילו יש לזה שם — ״אנתרופומורפיזם״.

---

קליאו ופיליפ

לאחרונה נתקלתי ברילז של בעלי עסקים ומאעכרים שונים שמספרים על הסוכנים שהם הקימו — המזכירה שלי, ״קליאו״, או סוכן המכירות שלי ״פיליפ״. האנשים האלה מעולם לא טרחו ללמוד איך מודל שפה עובד, הם לא התנסו עם שרשראות מרקוב כושלות או מודלי שפה קטנים שחושפים את המנגנונים שבעזרתם האשליה הזו נוצרת, הם לא הסתכלו אף פעם מאחורי המכונה, ולכן ההסבר הכי טוב שלהם להישג האדיר של מודל שפה גדול הוא ״אה, יש שם מוח קטן שעובד על חשמל, קוראים לו מושיקו, בוא נדבר איתו״.

הדבר הראשון (בערך) שקרה אחרי שאנשים התחילו להסביר תופעות טבע שהם לא מבינים בעזרת אלים כועסים הוא שקמו אנשי הדת, החאפרים הראשונים — שאמרו ״נכון! יש איש שרירי בשמיים שעושה ברקים, ואם אתה תתן לי 10 שקי חיטה — אני אדאג לדבר עם האיש הזה בשמיים ולדאוג שלך ולמשפחה שלך תהיה שנה טובה מבחינת ברקים ורעמים״. אם תשלם לי 1000 שקל אני אלמד אותך לשלוט בכוח החדש הזה שאתה לא מבין, ולרתום את קלוד, הבינה המלאכותית למטרות האישיות שלך. יש נוסחאות קסם כמו JSON שגורמות לו לעשות X, ו־SKILL חדש שגורם לו לדבר כמו איש מערות שחוסך כסף — המון לחשים וקסמים סביב העובדה שהם באמת לא מבינים את הבסיס של איך עובד מודל שפה.

מה בעצם אני בא להגיד? ככל שהמערכת מורכבת יותר, כך גדל הפיתוי להסביר אותה במונחים ״אנושיים״. כשנוצרת שפה חדשה סביב התופעה, תמיד יופיעו גם אנשים שימכרו פרשנות, מומחיות ושליטה מדומיינת בה.

למה בעצם קוראים למשימה שנותנים לקלוד קוד ״סוכן״? איזה סוג של ״סוכנות״ יש לתוכנה הזו? אין למודל שפה יכולת לקבל החלטות (המשמעות המילולית של סוכנות), כשמזינים את הקלט ״מה אתה רוצה לעשות״ מקבלים פלט סטטיסטי מביך שמשמעותו ״אני מכונה עזוב אותי בשקט״. אנחנו משתמשים במילה סוכן כאילו מדובר בישות בעלת רצון וכוונות, בעוד שבפועל מדובר במערכת אופטימיזציה שמבצעת ״לולאות פעולה״ שהוגדרו עבורה מראש. הדבר הזה תוכנת ועוצב להשמע ולהתנהג כמו בנאדם כי אנשים מאוד חכמים באנתרופיק עטפו את המודל שפה שלהם בהמון היוריסטיקות שעוזרות למודל להשמע ״אנושי״. הכל בכוונה.

כל הנראטיבים של ״סוכנים״, ״AGI״, כוח משמיד שממשלות אמורות לפחד ממנו — זה נראטיב שמשרת בעיקר החברות שערך המניה \ השקעה שלהם תלוי במיתוס שיצרנו דבר שאנחנו לא מסוגלים להבין — והוא כל כך מהפכני שכל הטכנולוגיה שיצרנו עד כה מתגמדת לעומת המוח האלקטרוני הזה.

וזה לא שאין למודלים ולשימוש בהם השלכות - פרצות אבטחה שגילו איתם הן אמיתיות לחלוטין ויש להן השלכות בעולם האמיתי. זה כלי עבודה ממש חזק - אבל זה כלי - בדיוק כמו עוזי, מאורר או מכונית. פשוט הרבה הרבה יותר מורכב. ככל שהמודלים יהיו חזקים יותר (ונראה שהם מתקדמים מאוד מהר לשם), יהיה חשוב יותר להבין שהם לא ״אנשים״, גם כשהם נשמעים כמו אנשים ועשו להם קול של אנשים. אנחנו צריכים להפסיק להמציא מיתולוגיות סביב טכנולוגיה שאנחנו לא מבינים.

אל תתנו לאנשי הדת החדשים לקחת לכם כסף.

רק בשורות טובות

ת