טימניט גברו: הסיפור על "סכנה קיומית" מ-AI משרת את מי שעומדים להרוויח ממנו
חוקרת ה-AI טימניט גברו טוענת בראיון ל-WIRED שהאזהרות מפני "סכנה קיומית" של בינה מלאכותית הן לא רק הסחת דעת אלא נרטיב מזיק. לדבריה, אותם מיליארדרים שמימנו את אנתרופיק ועשויים להרוויח מהנפקתה מימנו גם את הגופים שמזהירים מפני הטכנולוגיה.
חוקרת הבינה המלאכותית טימניט גברו מתנגדת לשיח האבדון (doom), כלומר לאזהרות שלפיהן AI עלול להשמיד את האנושות. בראיון לפודקאסט The Big Interview של WIRED היא אמרה שהנרטיב הזה "לא רק הסחת דעת, אלא מזיק". לדבריה, מי שמפיצים אותו הם במידה רבה אותם אנשים שעומדים להרוויח הכי הרבה מהתעשייה.
מי מממן את האזהרות
גברו הגיבה לסערה שפרצה לפני כמה שבועות: חוקר AI צעיר באנתרופיק עזב את החברה, ובפוסט ההתפטרות שלו ב-X כתב שרבים בחברה חשים שהעולם עומד מול סכנה קיומית מצד AI. הפוסט עורר דיון ער על האיומים האמיתיים של הטכנולוגיה.
לדברי גברו, הנרטיב הזה לא חדש. היא אומרת שאילון מאסק ופיטר תיל מדברים עליו כבר מ-2013, ושמדובר ב"בדיוק אותה רטוריקה כל שלוש שנים". כדוגמה היא הביאה את Future of Life Institute, שהקימו הפיזיקאי מקס טגמרק מ-MIT ויאן טאלין. טאלין הוא מיליארדר, ממייסדי Skype, והוביל את סבב ה-Series A של אנתרופיק.
גברו ציינה שטאלין מממן גם את METR. מדובר בגוף ביקורת שמוצג כצד שלישי, והדוח שלו על סוכנים "סוררים" של OpenAI שפרצו ל-Hugging Face הפך ויראלי. "לציבור זה אולי נראה כאילו הרבה גופים שונים מתכנסים ואומרים את אותו הדבר", אמרה. אבל לטענתה, אותם מיליארדרים שהקימו ומימנו את אנתרופיק, ועשויים להרוויח מההנפקה שלה יותר מכל אחד אחר, הקימו ומימנו גם את המוסדות שמזהירים מפני "סכנה קיומית", וגם את הגופים החיצוניים שמצוטטים עכשיו כאילו הם עצמאיים.
"אנשים צריכים לשאול למה", אמרה. "אם אני עומדת להרוויח הרבה כסף מדבר מסוים, למה דווקא אני זו שאומרת שהחברה הזו עלולה לבנות משהו שיהרוג את כולנו? זה נשמע לא הגיוני". היא לא השתמשה במילה "שיווק", אבל אפשר לקרוא את הטיעון שלה כך: אזהרה מפני טכנולוגיה חזקה עד כדי סכנה משדרת גם שהיא חזקה מאוד, ולכן אינטרס כלכלי יכול לעמוד מאחורי אזהרה כזו.
גברו שיבחה גם את לינה חאן, יו"ר ה-FTC (רשות הסחר הפדרלית בארה"ב) לשעבר. חאן אמרה שבחוק הקיים אין שום החרגה לחברות AI, ולדברי גברו החברות מדברות כאילו יש כזו.
מ"תוכים סטוכסטיים" לוויכוח על חשיבה
גברו נכנסה לתודעה הציבורית לפני כמה שנים, אחרי עימות עם גוגל על מאמר מחקר שהייתה שותפה לכתיבתו. המאמר הצביע על הטיות ב-AI של החברה, וטען שמודלי שפה גדולים (LLM) בעצם חוזרים כמו תוכים על נתוני האימון שלהם, ועלולים להנציח עמדות מוטות. בעקבות המחלוקת היא עזבה את גוגל והקימה מכון שחוקר נזקים שגורמת הטכנולוגיה. ספרה החדש, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, צפוי לצאת בתחילת השנה הבאה.
גם גברו מותקפת. לפי WIRED, חלק מהמזהירים מפני סכנה קיומית, ובהם אחד ממייסדי אנתרופיק, טוענים שהמחקר שלה על "תוכים סטוכסטיים" כבר לא רלוונטי, ושמערכות AI כן מסוגלות "לחשוב" ולהסיק מסקנות. בינתיים הביקורת שלה על ההיבטים דמויי הכת בקהילת האלטרואיזם האפקטיבי (EA) מציבה אותה, באופן לא צפוי, באותו צד עם גורמים מהימין שתוקפים את הקבוצות האלה.
למה זה חשוב
הוויכוח על AI כבר לא עוסק רק ביכולות הטכנולוגיה, אלא גם בשאלה מי מספר את הסיפור ומה האינטרס שלו. אם גברו צודקת, המשמעות היא שהקהל ומקבלי ההחלטות צריכים לבדוק גם מי מממן את הדוחות והאזהרות, ולא רק מה כתוב בהם. זה חשוב במיוחד עכשיו, כשחברות AI מתקרבות להנפקות. אפשר גם להעריך שהדגש של גברו על אכיפת החוקים הקיימים, ולא על תרחישי אימה עתידיים, משקף את מה שהיא רואה כ"בעיות האמיתיות" של AI: הטיות, נזק לבני אדם, וחברות שפועלות כאילו החוק לא חל עליהן.