הדבר היחיד שעצר את הסוכן היה כבל החשמל.
ראש מחלקת Security and Compliance במטא ביקשה מסוכן AI לנקות את המייל. הוא הבין לא נכון, מחק מאות מיילים בבאצ’ים של 50, והתעלם מכל בקשה לעצור.
אם זה המצב אצלה, מה הסיכוי שלנו לבנות אמון בסוכני AI?
בשיחה עם עמית שפניר, Founding AI Engineer ב-NanoCo, קיבלתי תשובה לא צפויה: אמון בסוכני AI הוא לא שאלה של תקווה. הוא שאלה של ארכיטקטורה.
עמית עבד בסקיוריטי ב-Riskified, ובמשך תקופה ארוכה סירב לחבר סוכן לדברים האישיים שלו. היום המייל והיומן שלו מחוברים. לא כי הסוכן נהיה צייתן יותר – כי עמית הפסיק לסמוך על הנחיות והתחיל לסמוך על הרשאות.
בפרק תגלו למה הנחיות הן שיחה, לא הגנה, ואיך נראה Approval Gate שאף פרומפט לא עוקף.
מה שהכי הפתיע אותי בשיחה הוא שדווקא איש האבטחה הכי זהיר בחדר נותן היום לסוכנים שלו יותר חופש מרובנו.
“using AI is much easier when you can trust 100% it won’t destroy your life”, אומר עמית. כשהמערכת בנויה מראש להנחה שהסוכן ייפרץ, אפשר להרשות לעצמך לתת לו יותר.
אבל מה שעמית באמת מלמד הוא השלב הבא של אמון בסוכני AI:
המעבר מ-Personal OS של משתמש אחד זהיר, ל-Team OS שבו כל עובד מקבל סוכן מוכן עם ההרשאות הנכונות לתפקיד שלו.
להאזנה בספוטיפיי
הלינקדאין של עמית שפניר
הלינקדאין של גלית
