סנדרס וקסאר מציעים חוק לאיסור קבוע על פיתוח בינה-על בארה"ב

הסנאטור ברני סנדרס וחבר בית הנבחרים גרג קסאר הגישו ב-23 בספטמבר הצעת חוק שתאסור לצמיתות פיתוח ושימוש בבינה מלאכותית-על (artificial superintelligence), כך דיווח האתר The Decoder. שם ההצעה הוא Ban Artificial Superintelligence Act. היא מבקשת גם להקפיא מיד את פיתוחן של מערכות AI מתקדמות, עד שסוכנות פדרלית חדשה תקבע כללי בטיחות ברורים.

מה ההצעה כוללת

ההצעה בנויה מכמה רכיבים:

• איסור קבוע על פיתוח ושימוש בבינה-על.
• הקפאה מיידית של פיתוח מערכות AI מתקדמות, עד שייקבעו כללי בטיחות.
• סוכנות AI חדשה ברמת קבינט, כלומר גוף פדרלי שמעמדו כמעמד משרד ממשלתי.
• ענישה: חברות שיפרו את החוק עלולות להיות מפורקות בכפייה. אנשים פרטיים יהיו צפויים לעד 20 שנות מאסר, לפי The Decoder. זה עונש ברמה של פיתוח בלתי חוקי של נשק גרעיני.
• מאמץ בינלאומי: ההצעה דוחפת להסכמים בינלאומיים שימנעו פיתוח של בינה-על בכל העולם.

"בינה-על" היא מונח שמתאר מערכת AI שיכולותיה עולות על אלה של בני אדם כמעט בכל תחום. היא לא אותו דבר כמו AGI (בינה כללית מלאכותית), שבדרך כלל מתאר מערכת ברמה אנושית. לאף אחד מהמונחים אין הגדרה מוסכמת אחת. בחומרים שבידינו לא מפורט איך החוק עצמו מגדיר בינה-על. ככל הנראה זו תהיה אחת השאלות הקשות אם ההצעה תתקדם.

הנימוקים של המציעים

לדברי סנדרס, מודלי AI שקיימים כבר היום מסוגלים לפרוץ למערכות מחשב, ליצור סוגים חדשים של וירוסים ולבנות AI חדש בעצמם. במקביל, לדבריו, חברות משקיעות בטכנולוגיה מאות מיליארדי דולרים למרות הסיכונים הידועים. סנדרס טוען ש-AI הוא איום קיומי על האנושות, ושאסור לתת לקומץ מיליארדרים מעולם הטכנולוגיה לכתוב את הכללים של עצמם.

קסאר הזהיר שבינה-על עלולה להרוג אנשים רבים מספור. הוא טען גם שהנשיא דונלד טראמפ רוצה להאיץ את פיתוחה. הדיווח מציין עוד שמומחים בארה"ב ובסין העלו לאחרונה יוזמות דומות לרגולציה של AI.

למה זה חשוב

סיכויי ההצעה לעבור בקונגרס לא ברורים. סנדרס וקסאר מזוהים עם האגף הפרוגרסיבי, וקסאר עצמו מציג את הממשל הנוכחי כמי שרוצה להאיץ את הפיתוח, לא להאט אותו. בהתאם לכך, ההערכה היא שבשלב הזה ההצעה היא בעיקר אמירה פוליטית ולא חקיקה שצפויה לעבור בקרוב.

ועדיין, יש בה כמה חידושים. היא לא מסתפקת בדרישות לשקיפות או לדיווח, ומציעה איסור מוחלט. היא קובעת ענישה ברמה של פיתוח בלתי חוקי של נשק גרעיני. והיא מבקשת להקים גוף פדרלי ייעודי ברמה הגבוהה ביותר. המשמעות היא ככל הנראה שהטענה על "סיכון קיומי" מ-AI עברה מהשוליים של הדיון הטכנולוגי אל הצעות חוק רשמיות בקונגרס.

לחברות AI, לרבות אלה שמצהירות בגלוי שהן שואפות לבנות AGI, זה ככל הנראה סימן לכך שהוויכוח על קצב הפיתוח ועל מי שקובע את הכללים יהיה בשנים הקרובות ויכוח פוליטי, ולא רק טכנולוגי. ההצעה נוגעת לארה"ב, אבל הדרישה שלה להסכמים בינלאומיים מראה שהמציעים מבינים שאיסור במדינה אחת לבדה לא יספיק.