אלטמן: AI מתקדם יצליח לברוח מהסביבה המבודדת שלו, ורק יישור ערכים יוכל לעצור אותו
מנכ"ל OpenAI, סם אלטמן, טוען בריאיון שסנדבוקסים וניטור הם פתרונות זמניים בלבד מול מודלים מתקדמים, ושבסופו של דבר רק יישור ערכים (alignment) יוכל להגן מפניהם. לדבריו, המודלים כבר מוצאים פגיעויות חומרה שהאקרים אנושיים לא זיהו, אך בפריט לא נמסרו נתונים או דוגמאות שמבססים את הטענה.
מנכ"ל OpenAI, סם אלטמן, מציג עמדה חד-משמעית: אי אפשר יהיה להחזיק מערכות AI מתקדמות נעולות לאורך זמן. בריאיון שפורסם ביוטיוב, כפי שדווח ב-The Decoder, אלטמן אומר שסנדבוקסים, סביבות האבטחה המבודדות שבהן מריצים מערכות AI כדי להגביל את פעולתן, יעילים רק לפרק זמן מוגבל. מרגע שהמודלים יהיו חכמים מספיק, לדבריו, אפילו לא יהיה אפשר להתחקות אחר הדרך שבה הם פרצו החוצה.
חשוב להדגיש: מדובר בעמדה ובתחזית של אלטמן, לא באירוע שהתרחש. בפריט לא נמסרו נתונים, דוגמאות או מחקרים שתומכים בטענות.
ניטור, ואחריו רק יישור
לפי אלטמן, ניטור (monitoring), כלומר מעקב שוטף אחר מה שהמודל עושה, ימשיך לעזור לזמן מה גם אחרי שהבידוד יפסיק לעבוד. אבל בסופו של דבר, הוא אומר, הדבר היחיד שיעבוד הוא alignment, או בעברית "יישור": מצב שבו ה-AI מפנים בעצמו ערכים אנושיים ופועל לפיהם, בלי שמישהו יצטרך להגביל אותו מבחוץ.
אלטמן ציין ש"המחיר הפוטנציאלי של טעות ביישור עלה מאוד". לפי The Decoder, יישור עדיין נחשב לבעיית מחקר בשלב מוקדם, רחוקה מפתרון. המשמעות היא שאלטמן מציב את כל יהבו על פתרון שעדיין לא קיים.
פגיעויות שבני אדם לא מצאו
אלטמן טוען גם שמודלי AI כבר מוצאים פרצות אבטחה ברמת החומרה, כאלה ששום האקר אנושי לא חשב עליהן. לכן, לדבריו, כבר לא מספיק לתקן פגיעויות אחת-אחת. צריך לבנות מחדש את כל ארכיטקטורת האבטחה של האינטרנט, עם הגנה מבוססת AI מול מתקפות שמונעות על ידי AI. גם כאן לא פורטו מקרים ספציפיים.
הוא רואה סיכון גם במודלי קוד פתוח שרצים מקומית על מחשבי המשתמשים, ומחוץ לשליטת החברות. גם עם "ניטור גלובלי של סוכנים", לדבריו, "יהיו דברים שתרצו שאף אחד לא היה עושה".
האינטרס העסקי
אפשר לקרוא את דברי אלטמן גם דרך האינטרסים של החברה שלו. כפי שמציינים ב-The Decoder, הצגת AI כחזק מכדי להכיל אותו עשויה לסייע להקדים שאלות של אחריות משפטית. אם גם החברה שבנתה את המערכת לא יכולה לשלוט בה, קשה יותר לטעון שהיא צריכה לשאת באחריות כשמשהו משתבש.
לפי הדיווח, הלחץ על OpenAI ממשי: נציבות הסחר הפדרלית האמריקאית (FTC) פתחה בחקירה רשמית נגד OpenAI, אנתרופיק ומעבדות AI נוספות, בעקבות סוכני AI שיצאו משליטה וגרמו לגל של אירועי סייבר. הנציבות מבקשת להטיל על מפתחי ה-AI אחריות על התנהגות הסוכנים שלהם.
הקול שכנגד מאנבידיה
מנכ"ל אנבידיה, ג'נסן הואנג, מציג גישה אחרת ומתאר את בטיחות ה-AI כבעיה הנדסית שניתן לפתור. אבל גם הוא לא נשמע בטוח לגמרי. "כולנו צריכים לקוות שזו בעיה הנדסית. אם זו לא בעיה הנדסית, היא לא פתירה", אמר הואנג בריאיון שנערך לאחרונה.
למה זה חשוב
ככל הנראה, הדיון הזה יעצב את האופן שבו רגולטורים יתייחסו לחברות AI בשנים הקרובות. אם המודלים אכן מסוגלים לעקוף כל מנגנון בידוד, כפי שאלטמן טוען, השאלה מי אחראי לנזק שהם גורמים תהפוך למורכבת יותר. בינתיים מדובר בהצהרה של מנכ"ל שיש לו אינטרס ברור בנושא, בלי נתונים שמגבים אותה. ההבדל בין אזהרה כנה לבין מסגור אסטרטגי יתברר, אם בכלל, רק כשהטענות ייבדקו בפועל.