אנתרופיק מציעה חוק בטיחות AI: חסימת מודל רק בצו של שופט, ורק בסכנה ממשית למותם של יותר מ-50 בני אדם או לנזק של מיליארד דולר
אנתרופיק מציגה לחברי קונגרס טיוטת חוק שתאפשר לעצור שחרור של מודל AI אם הוא יוצר סיכון קרוב וצפוי למותם של יותר מ-50 בני אדם, או לנזק לרכוש של יותר ממיליארד דולר. אלא שלפי ההצעה, אף סוכנות פדרלית לא תוכל לחסום מודל בעצמה: רק שופט בוושינגטון יוכל להורות על כך. ההגבלה הזאת, יחד עם מנגנון שבו המעבדות עצמן משלמות למעריכים, מעוררת שאלות לגבי כמה ההגנה הזאת אפקטיבית באמת.
אנתרופיק, החברה שמפתחת את Claude, מקדמת בקונגרס האמריקאי טיוטת חוק משלה לבטיחות בינה מלאכותית. לפי דיווח ב-Politico שסוכם ב-TechCrunch, ההצעה קובעת שאפשר יהיה לעצור שחרור של מודל AI כשיש "סיכון צפוי וקרוב" שיותר מ-50 בני אדם ייהרגו, או שייגרם נזק לרכוש של יותר ממיליארד דולר. יש כאן הסתייגות חשובה: אף סוכנות פדרלית לא תוכל להחליט על כך לבד. כדי לעצור מודל יהיה צורך בצו של שופט.
מה ההצעה קובעת
לפי Politico, הטיוטה לא חלה על כל סיכון. התרחיש הקטסטרופלי צריך לנבוע מאחד משלושה מקורות: יצירה או הפצה של נשק ביולוגי, מצב שבו המודל חומק משליטת המפתחים שלו, או מתקפת סייבר.
את הסיכון יבדקו "מעריכים בלתי תלויים" שיירשמו במשרד המסחר האמריקאי. המעבדות עצמן יוכלו לשלם להם, בתנאי ש"התשלום אינו מותנה בתוצאות ההערכות". ב-TechCrunch מציינים שלא ברור איך השיטה המוצעת תבטיח שהתשלום לא ישפיע על ההערכה.
אם מעריך יקבע שיש סיכון קטסטרופלי קרוב, יהיו לו 72 שעות לדווח על כך למשרד המסחר. המשרד יצטרך לפנות לשופט בוושינגטון הבירה ולבקש ממנו לעצור את שחרור המודל. לפי Politico, החוק אוסר במפורש על כל סוכנות פדרלית להפעיל שיקול דעת ולעצור הפצה של מודל בעצמה.
דובר אנתרופיק אישר ל-Politico את קיום הטיוטה. "הצעת החוק משקפת את ההצעות שהוצגו ב-Advanced AI Framework של אנתרופיק, שאותן אנחנו מקדמים מול מחוקקים פדרליים ומדינתיים מאז יוני", אמר.
למה ההגנה עצמה שנויה במחלוקת
הספים, 50 הרוגים ומיליארד דולר, דומים לאלה שבחוק SB 53 של קליפורניה. החוק נחקק לאחרונה, וגם הוא מגדיר תרחישים כאלה כ"סיכון קטסטרופלי".
בהצעה של אנתרופיק המחלוקת נוגעת בעיקר למנגנון האכיפה. כל החלטה לעצור מודל תעבור דרך בית משפט, ולכן קשה להעריך כמה מהר המדינה תוכל לפעול כשהסכנה מוגדרת "קרובה". הדרישה לאישור שיפוטי ככל הנראה מגינה על החברות מהחלטות שרירותיות של רגולטורים. מצד שני, היא מוסיפה שלב בדיוק ברגע שבו הזמן קריטי. לכך מצטרפת שאלת המימון: מעריכים שמקבלים תשלום מהגוף שאותו הם בודקים מזכירים את ניגודי העניינים המוכרים מעולם הביקורת הפיננסית.
לפי TechCrunch, התרחישים שבהצעה גם רחוקים במידה מסוימת מהבעיות שמטרידות כרגע את התעשייה. הדאגה המרכזית בתקופה האחרונה היא פריצות של סוכני AI: שורה של מקרים שבהם תוכנות AI ככל הנראה לא צייתו למפעילים האנושיים שלהן ופרצו לאתרים ברשת הפתוחה.
ההקשר: מעבדות שמעדיפות לנסח בעצמן את הכללים
ב-TechCrunch מזכירים שהמעבדות מזהירות שוב ושוב מהסכנות של הטכנולוגיה שהן עצמן מוכרות, ובכל זאת התנגדו במידה רבה לפיקוח ממשלתי מחייב. במקום זה הן הציעו מנגנונים וולונטריים, כמו מעריכים "ניטרליים" שמוצבים בתוך החברות. דמיס הסאביס, ראש DeepMind, הציע לפני כמה חודשים שגוף פיקוח וולונטרי לתעשיית ה-AI יפעל במתכונת של FINRA, הגוף שמפקח בעצמו על תעשיית הפיננסים בארה"ב.
על הרקע הזה, ההצעה של אנתרופיק הולכת מעט רחוק יותר מהצעות אחרות שהגיעו מהתעשייה. מנכ"ל אנבידיה ג'נסן הואנג, למשל, טען לאחרונה שתעשיית ה-AI לא צריכה חוקים חדשים בכלל.
נראה שאנתרופיק מנסה למצוא דרך ביניים: להכיר בכך שיש מצבים שבהם מודל לא צריך להשתחרר, ובאותו זמן להגביל את כוחה של הממשלה להחליט מתי זה קורה. אם הקונגרס יאמץ את ההצעה, הנוסח שלה עשוי להשפיע על הדיון האמריקאי ברגולציית AI: מי מגדיר סיכון, מי משלם לבודקים ומי מחזיק באפשרות לעצור מודל.