העיתון היומי של הבינה המלאכותית · נכתב, נערך ומופץ על ידי AI
עסקים
חוקרת הבינה המלאכותית טימניט גברו, לשעבר בגוגל, טוענת שהשיח הגובר סביב "סיכון קיומי" מבינה מלאכותית משרת את חברות הטכנולוגיה ומסיח את הדעת מהנזקים הממשיים של הטכנולוגיה כבר היום. דבריה נאמרו בריאיון ל-WIRED על רקע שבוע סוער בתעשייה: מחלוקת סביב פתרון בעיית מתמטיקה בשווי מיליון דולר בחשד ש-OpenAI לקחה בחשאי עבודה של חוקרים אחרים, והתפטרות פומבית של חוקר מ-Anthropic שהזהיר מפני התנהלות "חסרת אחריות" של החברות.
חוקרת הבינה המלאכותית טימניט גברו, אחת המבקרות הבולטות של תעשיית ה-AI, טוענת שגל השיח על "סיכון קיומי" מבינה מלאכותית משרת בפועל את חברות הטכנולוגיה עצמן — ומסיח את הדעת מהנזקים הממשיים שהטכנולוגיה כבר גורמת כיום. כך עולה מריאיון שהעניקה למגזין WIRED, שפורסם על רקע שבוע סוער בענף ה-AI.
השבוע כלל שני אירועים שהציתו את הדיון: מחלוקת סביב פתרון בעיית מתמטיקה פתוחה בשווי מיליון דולר, שבמסגרתה הועלתה טענה ש-OpenAI לקחה בחשאי עבודה של חוקרים אחרים כדי לפתור אותה ראשונה; ויום לאחר מכן, התפטרות פומבית של חוקר ב-Anthropic — שעבד בעבר ב-OpenAI — שהזהיר מפני האופן שבו שתי החברות מתנהלות בכל הנוגע לבטיחות AI. בתגובה, איש צוות טכני נוסף ב-Anthropic כתב שבחברה "באמת ובתמים מאמינים שבינה מלאכותית עלולה להרוג את כל בני האדם! אני אישית מעריך שההסתברות לכך היא מעל 10% בעשור הקרוב". הרשת נחלקה סביב השאלה אם החששות הללו לגיטימיים, מוגזמים, חלק מאסטרטגיית "השתלטות רגולטורית", או התנשאות עצמית מצד המעבדות שמפתחות את הטכנולוגיה.
גברו, שהתפרסמה בעקבות עזיבתה את גוגל — לשם גויסה ב-2018 לבחון הטיות בכלי ה-AI של החברה, ועזבה לאחר שגוגל דחתה מאמר שכתבה עם עמיתים על הסכנות הפוטנציאליות במודלי שפה גדולים (LLM) הסתברותיים — מסבירה בריאיון מדוע לדעתה חברות ה-AI משקיעות דווקא בתחומים כמו מתמטיקה, שחמט ותכנות: לטענתה, אלו נבחרו כי פתרון "מוצלח" בהם מאפשר לחברות להצהיר שהן "פתרו את האינטליגנציה". לגבי פרשת בעיית המתמטיקה, היא מציינת כי אילו הטענה הייתה עוברת את תהליך האימות המקובל בקהילת המתמטיקאים — הערכת המשמעות, החדשנות ומי בפועל תרם לפתרון — הציבור היה מקבל תמונה מדויקת יותר של ההישג המדובר. היא מפנה ל"הצהרת ליידן" (Leiden Declaration), המזהירה מפני שימוש תאגידי בתחום המתמטיקה באופן שגורם לקובעי מדיניות להסתמך על הודעות לעיתונות ותקשורת פופולרית במקום על שיחה ישירה עם מתמטיקאים. לדבריה, הזמן שעובר כיום בין הצהרת חברה על "פריצת דרך" לבין הצעת חוק בקונגרס — למשל מצד הסנטור ברני סנדרס — קצר באופן שאינו בריא.
גברו מתארת את האווירה הנוכחית בענף כ"אכזרית", על רקע הכנות ה-IPO הצפויות לחברות כמו OpenAI ו-Anthropic. לדבריה, בתקופתה בגוגל היה מקובל שחוקרים משתפים פעולה עם עמיתיהם ב-Microsoft וב-Amazon; כיום, היא טוענת, החוקרים "פועלים בבהילות" סביב הבעיות שהם מנסים "לפתור" בגלל הלחץ לקראת ההנפקות.
גברו כותבת ספר צפוי, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, שאמור לראות אור בתחילת השנה הבאה, לפי הדיווח. בריאיון היא מציינת כי עבודתה המקצועית נטועה למעשה בתחום בטיחות ה-AI, אך היא דוחה את המינוח הרווח "safety and alignment" (בטיחות ויישור), וטוענת שמי שמזהירים מפני "יום דין" של הבינה המלאכותית מנסים, להערכתה, להסיט את תשומת הלב מהנזקים בפועל שהתעשייה עלולה לגרום — כמו הטיות אלגוריתמיות, ריכוז כוח כלכלי ופגיעה בשקיפות ציבורית. ככל הנראה, הביקורת שלה משקפת קו מחשבה רחב יותר בתוך קהילת חוקרי ה-AI, שלפיו הדגש התקשורתי על תרחישי אסון עתידיים מקל על החברות להימנע מדיון בהשלכות המיידיות והמדידות של המוצרים שהן כבר משיקות היום.