נשיא מיקרוסופט: לחלב ולמכונות כביסה יש יותר פיקוח מאשר לחברות AI — ובריטניה בעמדה הטובה ביותר להוביל את הרגולציה

נשיא מיקרוסופט, ברד סמית, קורא לרגולציה דחופה של בינה מלאכותית, והוא נשען על השוואה פשוטה: למוצרי צריכה כמו חלב ומכונות כביסה יש יותר פיקוח מאשר לחברות שמפתחות AI. בפודקאסט של ה-BBC הוא תיאר את ה-AI כ"נשק וכלי" גם יחד, טכנולוגיה שלדבריו מסכנת את אבטחת הסייבר העולמית. לדבריו, "הרגע הגיע" לקבוע כללי בטיחות גלובליים, כך דווח ב-TechCrunch.

למה דווקא בריטניה

סמית העריך שבריטניה, ולא ארה"ב או האיחוד האירופי, היא שנמצאת בעמדה הטובה ביותר להוביל את המהלך. ה-AI Security Institute הבריטי (AISI), שהוקם ב-2023, מקבל גישה למודלים הגדולים של מעבדות החזית האמריקאיות עוד לפני שהם משוחררים לציבור. תוך זמן קצר הוא הפך לגוף מוביל בבדיקות בטיחות של AI.

"בוושינגטון לא מסתכלים על בריטניה ועל לונדון כמו שמסתכלים על בריסל", אמר סמית ל-BBC. "זו נקודת חוזק". ככל הנראה כוונתו היא שהאיחוד האירופי נתפס בבירה האמריקאית כיריב רגולטורי, ואילו בריטניה יכולה לשמש מתווכת שקל יותר לקבל את עמדתה.

אלא שמעמדו של המכון הבריטי ספג לחץ בשבועות האחרונים. נשיא ארה"ב דונלד טראמפ הזהיר מפני ארגונים "גלובליסטיים", שלטענתו מתערבים בעסקיהן של חברות אמריקאיות. לפי הדיווח, בחודש שעבר הוא ביקש מאנתרופיק ומ-OpenAI לא למסור מודלים חדשים לבודקים הבריטים. ביום שני אישר ה-AISI שהוא יכול לגשת למודלים העדכניים ולבדוק אותם.

"מחייב מוסרית" זה לא מספיק

דבריו של סמית מגיעים על רקע קריאות של בכירים בתעשייה, ובהם דריו אמודיי מאנתרופיק וסם אלטמן מ-OpenAI, להאט את קצב פיתוח ה-AI. הקריאות נשמעו אחרי כמה מקרים שבהם סוכני AI יצאו משליטה.

בחודש שעבר אירח טראמפ בבית הלבן בכירים מחברות כמו OpenAI, אנתרופיק, אנבידיה, AMD, ‏SpaceX, מטא וגוגל לדיון על בטיחות AI. המשתתפים חתמו על מסמך "מחייב מוסרית", ובו התחייבו לעבוד עם "מבקרים בלתי תלויים" שיעריכו את הבטיחות והיכולות של המודלים שלהם.

סמית הגדיר את המסמך "צעד טוב", אבל לדבריו הוא רחוק מהרגולציה הנדרשת. הבעיה ברגולציה עצמית וולונטרית, הסביר, היא שרק "החברות הטובות" יצייתו לה. "החברות שפחות אחראיות הן אלה שצריך לדאוג מהן", אמר.

מה סמית מציע

סמית פירט כמה כללים שהיה רוצה לראות:

• חובת דיווח: חובה חוקית להודיע לארגון אם המערכות שלו נפרצו על ידי סוכני AI שיצאו משליטה.
• אישור חיצוני לפני השקה: לפי דבריו, הוא תומך בכך שמעבדות AI יקבלו אישור ממעריכים חיצוניים לפני שמוצר AI משוחרר.
• מתגי כיבוי (kill-switches): הוא דיבר בחיוב על מנגנונים שיאפשרו לעצור או להאט מערכת AI אם בני האדם מאבדים עליה שליטה.

"בואו נדבר ברוגע, אולי אפילו בשקט, אבל בתקיפות, ונתחיל לקרב בין אנשים", אמר סמית. "אני מקווה שזה התפקיד שנוכל למלא כחברה. אני מקווה שזה התפקיד שבריטניה יכולה למלא כמדינה".

המשמעות

אחת מחברות הטכנולוגיה הגדולות בעולם קוראת כאן בגלוי לפיקוח מחייב על התעשייה שהיא עצמה חלק ממנה, ובמקביל מסמנת את לונדון ולא את וושינגטון כמי שצריכה להוביל אותו. נראה שהמהלך מעיד על סדק בעמדה האמריקאית האחידה: הבית הלבן דוחף להסדרים וולונטריים ומאותת נגד גופי פיקוח זרים, ובכיר בענף טוען שזה לא מספיק. השאלה היא אם בריטניה, שהמכון שלה כבר נמצא בנקודת לחץ מול הממשל האמריקאי, תוכל בפועל למלא את התפקיד שסמית מייעד לה.