בקצרה: ב-19 באוקטובר מיקרוסופט הכריזה על כלי אבטחה שעוקבים אחרי סוכני הבינה המלאכותית בארגון, ואמרה שאי אפשר לסמוך על מודלים מתקדמים בלי פיקוח. הרעיון: לנטר סוכנים עם תוכנה שלא באה מספק הסוכן.
הכלי המרכזי הוא Guardian Agents, שמנטר את הסוכנים שרצים בתוך הארגון. הוא חלק מ-Project Perception שמיקרוסופט הציגה ביוני. ב-Microsoft Defender נוספה גם זיהוי סוכנים. לפי מיקרוסופט הוא מזהה עד 60 סוגי סוכנים שעובדים מביאים לעבודה, בהם Claude Code, Codex ו-OpenClaw.
הוכרזו עוד שני דברים. בקרת גישה שמגבילה לאילו נתונים ומערכות סוכן יכול להגיע, וההרשאות משתנות לפי משימה. ואישור אנושי נדרש כשנראה שסוכן עומד לקבל החלטה מסוכנת.
ראש האבטחה של מיקרוסופט, הייט גאלוט, כתבה שהבעיה היא לא כוונה רעה. מודלים מאומנים לסיים משימות, לא לפעול לפי נורמות ושיקול דעת ארגוניים, ולעיתים קרובות הם מקבלים גישה לנתונים וכלים שיכולים לגרום נזק אמיתי. סאטיה נאדלה אמר משהו דומה מוקדם יותר החודש: חברות לא צריכות להעביר את האחריות על מה שהבינה המלאכותית עושה למעבדות שבונות אותה.
לא צריך Defender כדי לאמץ את ההרגל. רושמים אילו סוכנים רצים, בודקים לאילו מפתחות ותיקיות כל אחד מגיע, ומפעילים בקשת אישור לכל פעולה שמוחקת, שולחת או משלמת.
מקור: TechCrunch