ממשל טראמפ גייס עשרות חברות AI לבדיקות בטיחות וולונטריות

הממשל האמריקאי בראשות דונלד טראמפ השיג את הסכמתן של עשרות חברות בינה מלאכותית לעבור בדיקות בטיחות וולונטריות. כך דיווח האתר Ars Technica. המהלך הוא עמוד התווך של תוכנית הממשל להתמודדות עם הסיכונים של AI. אבל כפי שעולה מהכותרת של Ars Technica, התוכנית כולה תלויה בנכונות של חברות הטכנולוגיה הגדולות, שהכתבה מתארת כ"חברים" של הנשיא, לפקח על עצמן.

הסכמה, לא חובה

המילה החשובה בידיעה היא "וולונטרי". החברות לא נדרשות לבדיקות בחוק או בתקנה. הן הסכימו לעבור אותן מרצונן. מבחינה מעשית המשמעות היא ככל הנראה שאין סנקציה מוגדרת נגד חברה שתחליט לא לעמוד בהתחייבות, לדלג על בדיקה או להשיק מודל שלא עבר אותה.

המקור אינו מפרט אילו חברות חתמו, מה בדיוק ייבדק במסגרת הבדיקות ומי יבצע אותן. לכן עדיין לא ברור אם מדובר במנגנון עם שיניים או בעיקר בהצהרת כוונות.

הקשר: הימור על רגולציה עצמית

בדיון על בטיחות AI בארצות הברית יש מתח קבוע בין שתי גישות. גישה אחת רואה ברגולציה מחייבת צורך בסיסי, לנוכח היכולות ההולכות וגדלות של מודלי שפה גדולים (LLM) ושל מערכות אוטונומיות. הגישה השנייה חוששת שרגולציה תאט את התעשייה האמריקאית בתחרות מול סין ומעדיפה לתת לחברות להוביל. ממשל טראמפ הציג לאורך הקדנציה עמדה שקרובה לגישה השנייה, והמהלך הנוכחי נראה כהמשך ישיר של אותו קו.

כדאי לזכור שהתחייבויות וולונטריות בתחום ה-AI אינן חידוש. גם בעבר חברות גדולות התחייבו פומבית לעקרונות בטיחות, ומבקרים טענו אז שבלי מנגנון אכיפה חיצוני קשה לוודא שההתחייבויות אכן מקוימות.

למה זה חשוב

הסכמה של עשרות חברות היא לכאורה הישג: היא יוצרת מכנה משותף רחב בתעשייה שעד היום פעלה לפי כללים שכל חברה קבעה לעצמה. מנגד, הפריימינג של Ars Technica מצביע על החולשה המרכזית של המודל. כשמי שנבדק הוא גם מי שמחליט אם להיבדק, האמון בתוצאות תלוי כולו ברצון הטוב שלו.

בפועל, יעילות התוכנית תיקבע ככל הנראה לפי הפרטים שעדיין לא ידועים: האם תוצאות הבדיקות יפורסמו, האם גוף ממשלתי או גורם עצמאי יהיו מעורבים בהן, ומה יקרה כשמודל ייכשל. עד שהפרטים האלה יתבררו, לא ברור אם ההסכם הזה מקדם את בטיחות ה-AI בפועל או בעיקר משמש תחליף לרגולציה.