עוד עזיבה בגוגל דיפמיינד: "לכוון ל-ASI בעתיד הקרוב זה חוסר אחריות מובנה"
רוברט או'קלהאן, מומחה טכני בגוגל דיפמיינד בניו זילנד, הודיע שהוא עוזב את החברה וכתב שקצב ההתפתחות של AI "גבוה מדי". הוא אומר שכבר אינו יכול להצדיק את עבודתו על כלים שהפכו את ה-AI לזול ומהיר יותר, ולדבריו עמיתים רבים שותפים לחששותיו אך כמעט לא מדברים עליהם בפומבי.
רוברט או'קלהאן (Robert O'Callahan), מומחה טכני בגוגל דיפמיינד בניו זילנד, עוזב את החברה בגלל חששות מהסיכונים של בינה מלאכותית. לפי האתר The Decoder, או'קלהאן כתב בבלוג שלו ש"קצב השינוי הנוכחי גבוה בהרבה מדי" ושחתירה ל-ASI "בעתיד הקרוב היא חסרת אחריות מעצם טבעה". ASI (Artificial Superintelligence) היא בינה מלאכותית שעולה על יכולות האדם כמעט בכל תחום.
מי שעזר להאיץ, ועכשיו מבקש להאט
בזמנו בדיפמיינד עבד או'קלהאן על כלים לתכנון שבבים, כלים שעזרו להפוך את ה-AI לזול ומהיר יותר. לדבריו, זו תרומה שהוא כבר לא יכול להצדיק. יש כאן מידה של אירוניה: דווקא מי שעבד על תשתית שמאיצה את התחום הוא שקורא עכשיו להאט אותו.
את הסיכון מבינה-על הוא מגדיר "אמיתי אך לא ודאי". הוא לא נעצר בתרחישי קצה ומונה גם שורה של נזקים מוחשיים יותר: "כניעה קוגניטיבית", כלומר הישענות על AI במקום חשיבה עצמאית, פסיכוזה ובדידות שנגרמות מ-AI, ריכוז כוח, זעזועים כלכליים, סיכוני סייבר והיעדר אחריותיות. בסיכום הדברים, כך לפי The Decoder, הוא מוכן להמר שהנזקים של AI יעלו על התועלות שלו.
לטענתו, רבים מעמיתיו בדיפמיינד שותפים לחששות האלה, אבל רק לעתים רחוקות מדברים עליהם בפומבי. מעכשיו הוא רוצה לעסוק בעבודה שהיא, בלשונו, "פרו-אנושית באופן חד-משמעי".
הקשר פוליטי טעון
או'קלהאן מקשר לספר "If Anyone Builds It" של אליעזר יודקובסקי ונייט סוארס, אבל לא מאמץ את הטענה המרכזית שלו, שבינה-על תוביל בהכרח לאסון. The Decoder מציין שהמחברים קשורים לתנועת האלטרואיזם האפקטיבי (effective altruism), תנועה שנויה במחלוקת שספגה ביקורת על כך שהיא מעדיפה צדקה על פני חלוקה מחדש של משאבים.
הוויכוח הזה חורג מזמן מגבולות הקהילה המקצועית. לפי דיווח של Axios שמובא בכתבה, מזכר של הבית הלבן מציג את התנועה כקבוצת שוליים בעלת מאפיינים של כת, ותוקף את מנכ"ל אנתרופיק, דריו אמודיי, כ"פנים" של מה שמכונה AI doomerism, הגישה שצופה תוצאות הרסניות מהתפתחות הבינה המלאכותית.
למה זה חשוב
The Decoder עצמו פותח את הידיעה בהערה ש"זה כבר כמעט לא חדשות": עוד חוקר של גוגל עוזב בגלל סיכוני AI. דווקא ההרגל הזה הוא ככל הנראה העיקר. כשעזיבות על רקע אתי הופכות לשגרה, נראה שמדובר בדפוס ולא במקרים בודדים של אי-נחת אישית, בתוך המעבדות שמובילות את המרוץ.
החשיבות של קולות כאלה היא בכך שהם מגיעים מבפנים: מאנשים שמכירים את קצב הפיתוח ממקור ראשון ולא רק מההודעות לעיתונות. אם או'קלהאן צודק בכך שעמיתים רבים חוששים אך שותקים, המשמעות היא שהשיח הציבורי על בטיחות AI משקף רק חלק מהלך הרוח בתעשייה. עם זאת, כשהבית הלבן מתייג את המחנה המזהיר כקיצוני, סביר שמי שמתלבט אם לדבר ימצא עוד פחות סיבות לעשות זאת.