פסגת טראמפ–שי חשפה את המתח: מרוץ ה-AI מול שאלת השליטה האנושית

הפסגה שנערכה בשבוע שעבר בין נשיא ארצות הברית דונלד טראמפ לנשיא סין שי ג'ינפינג חשפה את אחת הדילמות המרכזיות בתחרות בין המעצמות על בינה מלאכותית. על פי טור דעה שהתפרסם ב-South China Morning Post, טראמפ מעוניין להשאיר את ה-AI "בדיוק איפה שהוא" (exactly where it is), כלומר לא להוסיף מנגנוני הגנה חדשים, מה שמכונה בשפה המקצועית guardrails. עמדתו של שי מוצגת בטור כנקודת מבט שונה.

מרוץ בלי תמריץ להאט

כותב הטור מתאר את הדילמה כך: גם וושינגטון וגם בייג'ינג רואות בבינה מלאכותית מקור לעוצמה כלכלית, מדעית ואסטרטגית, ולכן לאף אחת מהן אין תמריץ ממשי להאט. מנגד, ככל שמערכות ה-AI נעשות מתקדמות ואוטונומיות יותר, גדלה חשיבותה של השאלה אם בני אדם עדיין שולטים בהן.

לדברי כותב הטור, הפסגה הוציאה את המתח הזה לאור. זו לא רק מחלוקת טכנית על רגולציה. זו שאלה של סדרי עדיפויות: האם הדגש הוא על מהירות ויתרון תחרותי, או על מנגנונים שיבטיחו שהטכנולוגיה נשארת בפיקוח אנושי.

מה המשמעות

חשוב לזכור שהמקור הוא טור דעה ולא דיווח חדשותי על החלטות שהתקבלו בפסגה. לכן אין לקרוא אותו כהודעה על הסכם או על מדיניות רשמית. עם זאת, הציטוט המיוחס לטראמפ תואם, ככל הנראה, את הקו שממשלו הציג עד כה: העדפה לחדשנות ולתחרות על פני פיקוח נוסף.

המשמעות של המחלוקת חורגת מהיחסים בין שתי המדינות. ארצות הברית וסין הן שתי המעצמות המובילות בפיתוח מודלים מתקדמים. אם אין בהן הסכמה בסיסית על הצורך במנגנוני שליטה, קשה לראות, להערכתנו, איך תיווצר מסגרת בינלאומית אפקטיבית לניהול הסיכונים. מצד שני, עצם העובדה שהשאלה עלתה ברמת המנהיגים מעידה ככל הנראה שהנושא כבר איננו עניין לאקדמיה ולמעבדות המחקר בלבד.

המושג "שליטה אנושית" (human control) הפך בשנים האחרונות לאחד הצירים המרכזיים בדיון על בטיחות AI. הוא עוסק בשאלה אם אפשר לפקח על מערכות שפועלות באופן עצמאי יותר ויותר, לתקן אותן ולעצור אותן כשצריך. ככל שחברות הטכנולוגיה משני הצדדים מקדמות סוכנים אוטונומיים שמבצעים משימות בלי התערבות אדם, השאלה הזו צפויה להפוך מתיאורטית למעשית.

השורה התחתונה

לפי הטור ב-SCMP, המאבק האמיתי במרוץ ה-AI בין ארצות הברית לסין אינו רק על השאלה מי יוביל, אלא גם על השאלה אם בני אדם יוכלו להמשיך לשלוט במה שנבנה. מהפסגה עולה לפחות דבר אחד: לשני המנהיגים אין עדיין תשובה משותפת.