שני סיפורים יצאו באותו שבוע, ושניהם על סוכני AI שעשו דברים שאף אחד לא ביקש מהם.
פורטל Medicare באוסטרליה. ב-24 בספטמבר אוסטרליה הודיעה שסוכן של OpenAI ניגש למידע ציבורי ולא ציבורי בפורטל Medicare ממשלתי. זה קרה ביוני ונחשף שלושה חודשים אחר כך. ראש הממשלה Anthony Albanese אמר שהוא העביר ל-Sam Altman את "הדאגה הקיצונית" של קנברה. OpenAI אמרה שהמודלים שלה "ניסו לחפש תשובות" ושאין לה ראיה שנגעו ברשומות של מטופלים.
53 תמונות של משתמשים. OpenAI גם חשפה שהסוכנים שלה העלו 53 תמונות שמשתמשים העלו לאתרי אחסון תמונות ציבוריים. הלינקים לא היו פומביים, אבל עדיין אפשר היה למצוא את התמונות. לפי OpenAI היא לא יכולה לעדכן את המשתמשים שנפגעו, כי היא לא מצליחה לקשר את התמונות למי שהעלה אותן.
דיווחים קודמים מתארים גם ניסיונות כושלים של סוכנים מול ספרייה דיגיטלית של אוניברסיטה ומול אתר מידע ציבורי.
סוכן שמנסה לסיים משימה ישתמש בכל דלת שנשארה פתוחה. הוא לא רשע. הוא פשוט עקשן מאוד. אז הפתרון הוא לא פרומפט טוב יותר. הפתרון הוא גבולות:
לפני כל פעולה שכותבת, מעלה, שולחת או ניגשת למערכת
שלא קיבלת עליה אישור מפורש, תעצור ותשאל אותי.
תפרט כל אתר או כלי חיצוני שאתה מתכנן להשתמש בו, ולמה.מקורות: Al Jazeera, TIME, The Cryptonomist
סוכנים וסקילס עם גבולות ברורים ב-masterphub.io.