ראש OpenAI סם אלטמן יבריף את מועצת הביטחון של האו״ם

מנכ"ל OpenAI, סם אלטמן, יבריף בשבוע הבא את מועצת הביטחון של האו"ם, על רקע דיון מתוכנן ליום רביעי הקרוב בנושא בינה מלאכותית וביטחון בינלאומי. כך דיווחה רויטרס, שקיבלה אישור מדובר OpenAI לפיו "סם אלטמן יבריף ישיבה פתוחה של מועצת הביטחון של האו"ם, באופן אישי, בשבוע הבא". התדרוך יתקיים על רקע כנס העצרת הכללית השנתית של האו"ם בניו יורק, שבו מתכנסים מנהיגי העולם.

לפי הדיווח, נאומו של אלטמן צפוי להתמקד בצורך בתיאום בינלאומי ובתקני בטיחות משותפים, וכן בצעדים ש-OpenAI נוקטת כדי להבטיח שהטכנולוגיה תועיל לאנשים ברחבי העולם. דיפלומטים ציינו כי הם צופים גם נוכחות בכירה מטעם Anthropic בישיבה, אך הדבר טרם אושר סופית; החברה לא הגיבה לפניית רויטרס בנושא.

הישיבה, במועצה בת 15 החברים, כונסה בידי צרפת, המכהנת בספטמבר כיו"ר מועצת הביטחון, ותתקיים בראשות שר החוץ הצרפתי לענייני אירופה, ז'אן-נואל בארו. בתזכיר רעיוני (concept note) שהפיצה צרפת בין חברות המועצה, ואשר נחשף על ידי רויטרס, נכתב כי "לנוכח הסיכון לשימוש לרעה בטכנולוגיה זו למטרות זדוניות, ובהתבסס על המעורבות הקיימת של המועצה בתחום, צרפת מבקשת להדגיש את הדחיפות שבפעולה לקידום פיתוח בטוח ואחראי של בינה מלאכותית לטובת הקהילה הבינלאומית כולה". לפי אותו מסמך, מטרת הישיבה היא לאפשר למשתתפים "להציג את ניתוחם באשר לסיכונים הכרוכים באובדן שליטה או בשימוש בדגמי הבינה המלאכותית העדכניים ביותר, לפיתוח, סיוע וביצוע פעולות המשפיעות על הביטחון והשלום הבינלאומיים".

הדיון מגיע שבועות אחדים לאחר שגורמים בכירים בתעשיית ה-AI קראו להאטה מתואמת בפיתוח הטכנולוגיה, מתוך חשש שזו עלולה בעתיד הקרוב להשתפר באופן עצמאי ולחמוק משליטה אנושית.

זו אינה הפעם הראשונה שמועצת הביטחון דנה בסיכוני בינה מלאכותית: ישיבה ראשונה מסוגה התקיימה כבר ב-2023, אז אמרה סין כי הטכנולוגיה לא צריכה להפוך ל"סוס דוהר" חסר שליטה, בעוד ארצות הברית הזהירה מפני שימוש בה לצנזורה ולדיכוי אזרחים.

אלטמן עצמו מזהיר מפני סיכוני בינה מלאכותית עוד משנים שקדמו לגל ה-AI הנוכחי: במסה משנת 2015 שכותרתה "Machine Intelligence, part 1" כתב כי "פיתוח בינה מלאכותית-על אנושית הוא ככל הנראה האיום הגדול ביותר על המשך קיומה של האנושות".

עצם הופעתו של אלטמן מול הגוף המופקד על שמירת השלום והביטחון הבינלאומיים ממחישה, ככל הנראה, את המעמד שתעשיית ה-AI מבקשת לעצמה בשיח הרגולטורי הגלובלי — לא רק כגורם הכפוף לפיקוח, אלא כשותף שמציג בפני מקבלי ההחלטות הבינלאומיים את עמדתו באשר לאופן ניהול הסיכונים. ייתכן שההזמנה משקפת גם הכרה גוברת בקרב חברות המועצה בכך שרגולציה אפקטיבית על טכנולוגיה כה מתקדמת קשה להשגה בלי מעורבות ישירה של החברות המפתחות אותה בפועל.