ביל גייטס משיב לטראמפ על סיכוני הבינה המלאכותית: "זו בכלל לא תרמית"

ביל גייטס, מייסד מיקרוסופט, יוצא נגד עמדתו של הנשיא דונלד טראמפ בנוגע לסיכוני הבינה המלאכותית. בריאיון לתוכנית "Meet the Press" של NBC הוא דחה את הטענה שהטלת מגבלות בטיחות על המודלים המתקדמים ביותר תעניק לסין יתרון במרוץ הטכנולוגי. לדבריו, לא רק שארצות הברית צריכה להציב מנגנוני הגנה, גם לסין יש אינטרס לעשות זאת.

"כל המדינות צריכות לרצות שמנגנוני ההגנה האלה יהיו קיימים", אמר גייטס. "כל מי שאומר 'סין לא תיישם את מנגנוני ההגנה האלה' – אני ממש לא מסכים עם זה".

"זו בכלל לא תרמית"

הדברים נאמרו בתגובה ישירה לטראמפ, שטען לאחרונה כי האזהרות מפני הסיכונים הקיומיים של בינה מלאכותית הן "תרמית", וכי הגבלות על חברות אמריקניות עלולות לפגוע בחדשנות המקומית ולשחק לידיה של סין. כשגייטס נשאל על כך, התשובה שלו הייתה קצרה: "זו בכלל לא תרמית".

לפי גייטס, גם לסין יש אינטרס ברור לקדם מנגנוני בטיחות, בין היתר משום שהיא עצמה עלולה להפוך למטרה של מתקפות המבוססות על AI. הוא אף העריך שטראמפ עשוי לשנות את דעתו "אחרי שישמע ממני ומאנשים נוספים", במיוחד אם ישתכנע שהצעדים הללו אינם פוגעים בארצות הברית במה שהנשיא רואה כמרוץ בין המעצמות.

מיליארד בני אדם

בקטע נוסף מאותו ריאיון השמיע גייטס את אחת האזהרות החריפות שנשמעו לאחרונה בנושא: לדבריו, בינה מלאכותית היא כלי חזק מספיק כדי "לגרום למותם של מיליארד בני אדם".

החשש שהוא מתאר נוגע בין היתר לגורמים זדוניים שינצלו את היכולות ההולכות ומשתפרות של המודלים כדי לגרום נזק בקנה מידה גדול. במאמר שפרסם באוגוסט מנה גייטס שורה של תרחישים כאלה: מתקפות סייבר, הונאות והפצת דיסאינפורמציה, לצד פגיעה אפשרית בבתי חולים, במוסדות פיננסיים, ברשתות חשמל ובמערכות ממשלתיות.

מתג כיבוי לא מספיק

אחד הרעיונות שחוזרים בדיון על בטיחות AI הוא "מתג כיבוי" (kill switch), כלומר מנגנון שמבטיח שבני אדם יוכלו לעצור או להגביל מערכת מתקדמת אם היא מתחילה לפעול בצורה מסוכנת. לדברי גייטס, פתרון כזה לבדו אינו מספיק: היכולת לעצור מערכת אחרי שמשהו כבר השתבש לא יכולה להחליף פיקוח בשלבים מוקדמים יותר.

"אנחנו צריכים לנטר כל מודל מתקדם ולתעד בדיוק מה נעשה", אמר. "ארצות הברית צריכה לוודא שזה קורה. גם סין תרצה לעשות את זה".

למה זה חשוב

הוויכוח בין גייטס לטראמפ משקף את אחת המחלוקות המרכזיות כיום בתעשיית הבינה המלאכותית: האם בטיחות ותחרות סותרות זו את זו. עמדת הממשל, כפי שהיא עולה מדברי הנשיא, היא שכל מגבלה על החברות האמריקניות היא יתרון לבייג'ינג. גייטס מציע מסגרת אחרת, ולפיה לשתי המעצמות יש בסופו של דבר אינטרס דומה: לוודא שהטכנולוגיה לא תשמש לתקיפתן, גם בזמן שהן ממשיכות להתחרות על ההובלה בתחום.

ההצעה שלו לנטר ולתעד כל מודל מתקדם, ולא רק להסתמך על אפשרות לכבות אותו בדיעבד, מכוונת ככל הנראה לפיקוח לאורך כל חיי המודל ולא רק לתגובה אחרי תקלה. אם עמדה כזו תתקבל, המשמעות תהיה כנראה דרישות דיווח ושקיפות מחמירות יותר מהחברות שמפתחות את המודלים. בשלב זה אין סימן לכך שהבית הלבן משנה כיוון, ולכן התחזית של גייטס שטראמפ ישנה את דעתו נשארת בינתיים הערכה בלבד.