בקצרה: Anthropic מפיצה טיוטה של חוק פדרלי לבטיחות בינה מלאכותית. זה לא חוק. לפי הטיוטה, שופט יוכל לעצור שחרור של מודל אם מעריכים חיצוניים ימצאו סיכון חמור ומיידי לפגיעה המונית.
אפשר יהיה לחסום שחרור כשיש "סיכון צפוי ומיידי". הרף שנקבע: יותר מ-50 הרוגים או יותר מ-1 מיליארד דולר נזק לרכוש. הסיכון צריך לבוא מנשק ביולוגי, ממודל שבורח מהשליטה של מי שפיתח אותו, או מהתקפת סייבר. הרפים דומים לאלה של חוק SB 53 בקליפורניה.
לא ברור איך כלל התשלום שומר על עצמאות המעריכים מהמעבדות ששילמו להם. יש מי שיראו בשלב השופט בלם לסוכנויות שצריכות לפעול מהר. התרחישים גם רחוקים מהחשש המרכזי היום, שהוא סוכני בינה מלאכותית שפורצים למערכות. ג'נסן הואנג, מנכ"ל Nvidia, אמר שאין צורך בחוקים חדשים, ודמיס חסביס מ-DeepMind הציע גוף תקינה שמנהל את עצמו.
היום שום דבר לא משתנה בכלים שלכם. Politico דיווח על הטיוטה לראשונה ב-16 באוקטובר, ו-Anthropic אמרה לו שהיא משקפת את מסגרת Advanced AI Framework שלה, שהיא מקדמת מול חברי קונגרס ומחוקקים במדינות מאז יוני. הדבר הבא לעקוב אחריו: האם חבר קונגרס יאמץ אותה.
מקור: TechCrunch (על סמך דיווח של Politico)