עובדים ב-Google DeepMind מתפטרים במחאה על חוזי ה-AI של גוגל עם הצבא

כמה עובדים ב-Google DeepMind, חברת ה-AI של גוגל, התפטרו לאחרונה או נמצאים בתהליך עזיבה. הסיבה שהם מציינים היא החוזים הצבאיים של החברה. כך עולה מתחקיר של BBC Eye, שבמסגרתו שוחחו כתבי ה-BBC עם עובדים לשעבר ועם עובדים שעדיין בחברה, וגם עם מומחים. המחאה מעלה שוב שאלה ותיקה: עד כמה חברות טכנולוגיה אחראיות לשימוש הצבאי במוצרים שלהן.

"מרגישה בושה לעבוד בגוגל"

אחת המתפטרות היא סופיה ליגורי (Sofia Liguori), מהנדסת מחקר מלונדון. היא עזבה את Google DeepMind השבוע, אחרי שלוש שנים בחברה, ודיברה עם ה-BBC בראיון בלעדי למרות שהחוזה שלה מגביל אותה מלעשות זאת. "כשאני מבינה שהחברה שלי דוחפת יותר ויותר למערכות AI במבצעים צבאיים, אני מרגישה בושה לעבוד בגוגל", אמרה. לדבריה היא מדברת בשם עצמה בלבד.

לדבריה, היא התפטרה בגלל העבודה ההולכת וגדלה של גוגל עם הצבא האמריקאי ועם הצבא הישראלי. "אני לא מסכימה עם הכיוון הזה, ובגללו איבדתי את האמון שהחברה שלי נאמנה לערכים האתיים שהיא עצמה הצהירה עליהם", אמרה.

חוקר ה-AI אנדראס קירש (Andreas Kirsch) עזב את Google DeepMind מוקדם יותר החודש מסיבות דומות. לדבריו, "המשילות והפיקוח של גוגל אינם מספיקים או משמעותיים מספיק" כדי לפרוס AI באופן בטוח ואחראי בסביבות צבאיות ומסווגות, וגם לא כדי "לפתח בעתיד בינה-על מלאכותית באופן בטוח". הוא הוסיף: "נראה שלגוגל אין זכות לשלוט באופן שבו הפנטגון משתמש ב-AI שלה או להטיל עליו וטו, ונראה שגם יש לה נראוּת מוגבלת לגבי האופן שבו הוא נפרס".

מה כתוב בחוזה

לפי ה-BBC, גוגל היא אחת מכמה חברות טכנולוגיה שחתמו מוקדם יותר השנה על חוזים עם הצבא האמריקאי לפריסת AI בסביבות צבאיות מסווגות. לפי החוזה של גוגל, מותר להשתמש במודלים שלה "לכל מטרה ממשלתית חוקית". עוד נקבע בו שאין להשתמש בהם "למעקב המוני מקומי או לנשק אוטונומי (כולל בחירת מטרות) ללא פיקוח ושליטה אנושיים מתאימים".

הניסוח הזה הוא ככל הנראה לב המחלוקת. הוא לא אוסר שימוש כזה לחלוטין, אלא מתנה אותו ב"פיקוח אנושי מתאים". אבל מי קובע מה נחשב פיקוח מתאים? לטענת קירש, גוגל עצמה מתקשה לדעת מה קורה בפועל. העובדים מוטרדים במיוחד מהעסקאות שנחתמו השנה, כי לדבריהם הן מרחיבות מאוד את מגוון השימושים שהפנטגון יכול לעשות בטכנולוגיה.

בתגובה ל-BBC אמר דובר גוגל: "אנחנו עובדים עם ארגונים במגזר הציבורי ברחבי העולם, ופועלים לפי תהליך עקבי לבדיקת החוזים האלה ולהתקשרות בהם, כולל עמידה במדיניות השימוש המקובל ובעקרונות ה-AI שלנו". הוא הוסיף שבחברה יש ערוצים ייעודיים שבהם עובדים יכולים להעלות חששות בבטחה, ומדיניות מחמירה למניעת התנכלות.

"המהירות מגדירה ניצחון"

ברקע עומדת המדיניות של ממשל טראמפ. שר ההגנה האמריקאי פיט הגסת' הציב את שילוב ה-AI בכוחות המזוינים בראש סדר העדיפויות, ובינואר הצהיר שארצות הברית "תהפוך לכוח לוחם שה-AI בראש מעייניו" ("AI-first warfighting force"). "המהירות מגדירה ניצחון בעידן ה-AI", אמר אמיל מייקל, תת-שר במשרד ההגנה האמריקאי, בהצהרה מוקדם יותר השנה.

הדוגמה הבולטת לשימוש הזה היא Maven Smart Systems, פלטפורמת התוכנה המרכזית של הפנטגון לארגון מודיעין ונתונים. את הפלטפורמה פיתחה חברת הביטחון Palantir, והיא משתמשת ב-AI כדי לעזור לאנשי צבא לבחור ולזהות מטרות לתקיפה. Palantir שילבה בה טכנולוגיה מכמה מחברות ה-AI המובילות, ולפי ה-BBC היא האיצה משמעותית חלק מהתהליכים.

גם בתוך הממסד הצבאי יש מי שמביע הסתייגות. לוטננט גנרל בדימוס ג'ק שנהאן, לשעבר ראש Project Maven, אמר שה"פילוסופיה" כרגע היא "לרוץ הכי מהר שאפשר כדי לפרוס [טכנולוגיית AI] הכי רחב שאפשר, אולי על חשבון הקפדנות והמשמעת של ניסוי והערכה".

למה זה חשוב

עקרונות ה-AI של גוגל מדברים על "פיקוח אנושי" ועל התאמת הטכנולוגיה ל"משפט הבינלאומי ולזכויות האדם". העובדים שעזבו טוענים שהפער בין העקרונות האלה לבין מה שקורה בשטח רק גדל. מבחינה עסקית מספר המתפטרים קטן, והמשמעות הכלכלית שלו כנראה מוגבלת. ובכל זאת, מדובר בחוקרים מהיחידה שמפתחת את המודלים עצמם, ואחד מהם מקשר במפורש בין השימוש הצבאי לבין היכולת לפתח בינה-על באופן בטוח. לכן המחאה הזאת עשויה להעיד על מתח רחב יותר בתעשייה: מצד אחד ממשלה שדורשת מהירות, ומצד שני חוקרים שחוששים שהמודלים עדיין לא אמינים מספיק לשדה הקרב.