לפני כמה ימים קראתי על פריימוורק בשם intent engineering – שהוא, אני אומר בסוגריים, ההנחה שהולכת ומתפתחת ל״ניהול״ בניה של אג׳׳ינטים ברמת ממה מותר ואסור להם לעשות. טקסט טכני לגמרי. כמה פסקאות פנימה תפסתי את עצמי חושבת לא על אג׳׳ינטס, אלא על אנשים, כי כל מה שתואר שם הוא בדיוק הבריף הזה שרובנו אף פעם לא כותבים לעובדים שלנו.
נתחיל מהשורה שעצרה אותי:
ה־intent הוא מה שקובע איך האייג׳נט פועל כשההוראות נגמרות.
תחשבו על זה רגע לגבי בן אדם. עובד חדש, שבוע ראשון, מול החלטה שלא דיברתם עליה. מה הוא עושה כש”ההוראות נגמרות”? הוא ממציא או ״משלים״ לעצמו בדיוק כמו אג׳יינט.
הטעות שכולנו עושים
כשפרויקט עם AI נכשל, התגובה הראשונה היא “המודל לא מספיק חכם”. אני רוצה לטעון רגע את ההפך: המודלים מסוגלים. מה שחסר זה לא יכולת – זו הגדרה. ה־intent לא מפורט מספיק, אז הסוכן ממציא לעצמו לוגיקה.
עכשיו תחליפו את המילה “סוכן” ב”מנהל צעיר”. אותו סיפור בדיוק.
אנחנו מאשימים אנשים בחוסר שיקול דעת, כשמה שבאמת חסר זה בריף מדויק של לאן אנחנו רוצים להגיע. לא נתנו להם את מה שצריך כדי להחליט נכון כשאנחנו לא בחדר.
שבעת הרכיבים – ולמה כל אחד מהם הוא שאלת ניהול
כשאנחנו עובדים עם הצוות שלנו, אנחנו נסמכים בהכרח על עוד הרבה מאוד משתנים ״סביבתיים״ – התרבות, האופים, השיחה הקודמת או ישיבת הצוות מלפני שבועיים. אבל כשבאים לפרק intent עבור מכונה ישנם בפריימוורק הזה שבעה רכיבים. אני מסתכלת עליהם בשתי עדשות – פעם אחת כאשת מוצר, שרוצה להנדס נכון ארכיטקטורה (במקרה שלי סוכן שירות לקוחות שבניתי, שבצו כל מוצר אחר שרוצים), אבל פעם שניה כמנהלת. בקריאה השנייה הם נקראים אחרת לגמרי:
1. מטרה (Objective). לא “תטפל בפניות לקוח”. אלא: למה זה חשוב, ומה נחשב הצלחה כשיש התנגשות. בלי זה, אי אפשר לסמוך על אף אחד שיעשה טרייד אוף נכון.
2. תוצאות רצויות (Outcomes). לא מה הסוכן עושה – מה משתנה בעולם של מי שמולו. תוצאות שאפשר לראות, מנקודת המבט של הלקוח, לא שלך.
3. מדדים שאסור שיתדרדרו (Health Metrics). מה מותר לשפר על חשבון מה. כאן צריך להזכיר שכשמדד הופך למטרה, הוא מפסיק להיות מדד טוב. כל מי שניהל לפי KPI בודד מכיר את זה מהבטן.
4. הקשר אסטרטגי (Strategic Context). מה עוד קורה במערכת, מה התלוי במה, מה קודם למה.
5. מגבלות: מנחות מול קשיחות. אם תיקחו מכאן משהו – זו השורה – אם מגבלה באמת חשובה, היא חייבת להיאכף בארכיטקטורה, לא בשפה. כלומר – אי אפשר לאכוף כללי אבטחה בעזרת מצגת ערכים.
6. אוטונומיה לפי סיכון. בפריימוורק יש ארבע רמות לאג׳׳ינט:
אוטונומיה מלאה לפעולות הפיכות וזולות;
אוטונומיה מבוקרת;
“הצעה לפני ביצוע” להחלטות אסטרטגיות;
ואפס אוטונומיה למה שלא הפיך.
רוב המנהלים נותנים לאדם רמת אוטונומיה אחת לכל החיים. הסוכן מכריח אותך לעשות את זה מפורש – לכל סוג החלטה בנפרד.תשקיעו מחשבה עכשיו – תצטערו פחות אח״כ (בלי אף מילה על טוקנים וחשבון מנופח)
7. כללי עצירה (Stop Rules). מתי לעצור, מתי להסלים, מתי לסיים. כמה מאיתנו אמרנו אי פעם לעובד במפורש: “אם הגעת למצב הזה – תתקשר אליי”?
המבחן האמיתי
intent מוגדר היטב הוא כזה שמאפשר לאדם מוסמך אחר לקבל בדיוק את אותה החלטה במצב של אי-ודאות.
זה לא מבחן ל ־AI. זה המבחן להאצלת סמכויות מאז ומתמיד.
אם אדם אחר, מוכשר, לא היה מסוגל להחליט אל מול בריף שכתבת – הבריף לא שלם. לא העובד נכשל. ההגדרה נכשלה.
מה אני לוקחת מזה
הדבר המוזר ב־AI הוא שהוא מכריח אותנו לכתוב במפורש את מה שתמיד הסתתר אצלנו בראש. הגבולות, התוצאה הרצויה, הרגע שבו עוצרים. את כל הדברים שהנחנו שאנשים “פשוט יבינו”.
הם אף פעם לא פשוט הבינו. פשוט לא היה לנו את הכלי שמכריח אותנו לנסח.
אז הנה שאלה לשבוע:
קחו עובד אחד, ומשימה אחת שהאצלתם. כמה משבעת הרכיבים האלה באמת אמרתם בקול?
(או , בדקו סוכן שהגדרתם- מה היה מוגדר כהלכה ואיפה התפספס)?
