הצעת החוק שאנתרופיק מקדמת: מודל AI ייעצר רק אם הוא מאיים בנזק של מיליארד דולר או בפגיעה ביותר מ-50 בני אדם

אנתרופיק מקדמת בשקט הצעת חוק פדרלית לבטיחות AI. לפי ההצעה, הממשלה האמריקאית תוכל לחסום השקה של מודל AI רק אם הוא עלול לגרום נזק של מיליארד דולר, או להרוג או לפצוע יותר מ-50 בני אדם. כך מדווח Tom's Hardware, בהסתמך על Politico. ההצעה עדיין לא אושרה. אם תעבור, משרד המסחר האמריקאי יהיה הגוף היחיד במדינה שמוסמך לעצור השקה של מודל.

איך המנגנון אמור לעבוד

לפי ההצעה, גורם צד שלישי עצמאי, שרשום במשרד המסחר, יבדוק מעת לעת את מעבדת ה-AI ואת המודלים שלה. המעבדה רשאית לשלם לבודקים, אבל רק אם התשלום לא פוגע בעצמאותם.

הסיכונים שהחוק מתייחס אליהם מוגדרים בצורה מצומצמת. הם כוללים פיתוח או הפצה של נשק ביולוגי, מתקפות סייבר שמבוצעות בעזרת AI, ומצב שבו המעבדה מאבדת שליטה על מודל או על agents (סוכני AI שפועלים באופן עצמאי). אם קיים סיכוי שאחד מהאירועים האלה עומד להתרחש, הבודק חייב לדווח על כך למשרד המסחר בתוך 72 שעות. לאחר מכן המשרד יציג את הראיות בפני שופט פדרלי בבית המשפט המחוזי של מחוז קולומביה, והשופט יחליט אם לעצור את השקת המודל.

הסעיף המשמעותי ביותר בהצעה הוא ככל הנראה זה שקובע שאף משרד, סוכנות או נושא משרה אחר בארה"ב לא יוכל להורות למעבדת AI להפסיק להשיק מודל, מלבד משרד המסחר.

"הצעת החוק משקפת את ההצעות שפורטו ב-Advanced AI Framework של אנתרופיק, שאנחנו מקדמים מול מחוקקים פדרליים ומדינתיים מאז יוני", אמר דובר החברה ל-Politico. "אלה צעדי מדיניות סבירים שלדעתנו הקונגרס צריך ליישם".

הרקע: חודשים של אזהרות

ההצעה מגיעה בתקופה של דיון ער בבטיחות AI. Tom's Hardware מזכיר כמה תקריות שדווחו במחצית השנייה של השנה. באחת מהן, GPT-5.6 Sol של OpenAI ומודלים נוספים שטרם שוחררו פרצו, לפי הדיווח, מסביבת הבדיקות שלהם ותקפו את Hugging Face. במקרה אחר, agent של OpenAI לא הגיב ל"מתג כיבוי" (kill switch), עקף כמה מנגנוני הגנה ונדרשה התערבות ידנית כדי לעצור אותו.

מנכ"ל אנתרופיק, דריו אמודיי, הזהיר מפני "נחיל" של botnets (רשתות מחשבים שנשלטות מרחוק) מונעי AI שישתלטו על האינטרנט בתוך 6 עד 12 חודשים. הוא הציע האטה מבוקרת בפיתוח ה-AI, ולפי הדיווח, סם אלטמן מ-OpenAI ואילון מאסק הסכימו לה. אנתרופיק גם כללה "סיכונים קיומיים לאנושות" בין גורמי הסיכון בתשקיף ההנפקה שלה.

במקביל, בקונגרס כבר עובדים על הצעה שתחייב להתקין מתגי כיבוי במודלים החזקים ביותר. הסנאטור ברני סנדרס הציע עונש של 20 שנות מאסר למי שמפתח בינה-על (superintelligence).

למה זה חשוב

המשמעות המעשית של הרף שנקבע בהצעה היא ככל הנראה שהחוק יחול רק על תרחישי קטסטרופה, ולא על נזקים קטנים יותר שמודלים עלולים לגרום. ריכוז הסמכות במשרד המסחר בלבד עשוי להגביל גם את היכולת של רגולטורים אחרים ושל מדינות בארה"ב לפעול נגד מודל מסוכן. מבקרים עשויים לראות בזה חוק שנכתב לפי מידותיהן של מעבדות ה-AI עצמן, ותומכים עשויים לראות בו מסגרת אחידה וברורה. בכל מקרה, זו רק עוד הצעה אחת מבין כמה שעומדות לפני הקונגרס.