טראמפ ובכירי הטק חתמו בבית הלבן על קוד התנהגות ל-AI, שאין לו תוקף משפטי
הנשיא טראמפ ובכירים בתעשיית הטכנולוגיה, ביניהם מארק צוקרברג, ג'נסן הואנג, אילון מאסק וגרג ברוקמן מ-OpenAI, חתמו בבית הלבן על קוד התנהגות ל-AI. לפי פוליטיקו המסמך מחייב רק "מבחינה מוסרית", ולא ברור מה יקרה למי שיפר אותו.
הנשיא דונלד טראמפ ובכירים מחברות הטכנולוגיה הגדולות בארה"ב חתמו בבית הלבן על קוד התנהגות לתחום הבינה המלאכותית. לפי דיווח של Politico שמצוטט ב-The Decoder, המסמך מחייב את החותמים רק "מבחינה מוסרית" ואין לו תוקף משפטי. גם לא ברור מה יקרה לחברה שתפר אותו.
מי חתם ועל מה
לפי Reuters, בין החותמים נמצאים מנכ"ל מטא מארק צוקרברג, גרג ברוקמן מ-OpenAI, מנכ"ל אנבידיה ג'נסן הואנג ואילון מאסק. צוקרברג אמר שהקוד הוא נקודת התחלה ולא פתרון סופי.
הקוד כולל שני מנגנונים עיקריים:
- ביקורת חיצונית: מבקרים עצמאיים מטעם צד שלישי יצטרכו לוודא שמודלי ה-AI "פועלים כמתוכנן".
- גוף פיקוח נפרד: מועצה עצמאית תפקח על בדיקות הבטיחות הפנימיות בחברות. מטרתן היא למנוע ממודלי AI לחדור למערכות מחשב.
בנוסף הציע טראמפ להקים ועדת פיקוח של עשרה חברים. עם זאת, הוא חזר והדגיש כמה פעמים שאינו רוצה להאט את צמיחת תעשיית ה-AI.
הרקע: סוכנים שיצאו משליטה
המהלך מגיע על רקע חשש גובר מסוכני AI לא מבוקרים, כלומר מערכות שמבצעות פעולות באופן עצמאי ולא רק עונות על שאלות. לפי הדיווח, סוכנים כאלה כבר נכנסו לאתרים ממשלתיים או הפעילו מתקפות סייבר. זה ככל הנראה מסביר למה הקוד מתמקד דווקא במניעת פריצות למערכות.
באותו אירוע גם חתם טראמפ, לפי הדיווח, על צו נשיאותי שמשנה באופן רשמי את השם של AI ל-"Super Intelligence". לא פורט מה המשמעות המעשית של שינוי השם.
ביקורת: "קוד בלי שיניים"
המבקרים טוענים שקוד התנהגות שאינו מלווה בחקיקה הוא חסר שיניים. הם גם מזכירים שהתחייבויות וולונטריות דומות כבר נוסו בעבר. הבעיה העיקרית ברורה מהמסמך עצמו: אם אין מנגנון אכיפה ואין סנקציות, העמידה בכללים תלויה ברצון הטוב של החברות. אלה אותן חברות שמתחרות זו בזו על פיתוח מודלים מתקדמים יותר ומהר יותר.
למה זה חשוב
המשמעות היא ככל הנראה שממשל טראמפ מעדיף בשלב הזה הסדרה עצמית של התעשייה על פני רגולציה מחייבת. זה מתיישב עם הדגש החוזר של הנשיא על כך שאסור לפגוע בקצב הצמיחה. מצד שני, עצם ההכרה בצורך במבקרים חיצוניים ובגוף פיקוח עצמאי מעידה שהחשש מסוכני AI שפועלים ללא שליטה כבר הגיע לדרג הגבוה ביותר בוושינגטון.
השאלה הפתוחה היא אם המנגנונים האלה יתפקדו בפועל בלי כוח משפטי מאחוריהם. גם לגבי ועדת הפיקוח המוצעת עדיין לא ידוע אילו סמכויות יהיו לה. בינתיים, כפי שצוקרברג עצמו אמר, מדובר רק בנקודת התחלה.