"הסיכוי להכחדה אנושית הוא בערך הטלת מטבע": חוקרים מ-OpenAI, גוגל ואנתרופיק מזהירים בסדרת ראיונות

"לדעתי, הסיכוי להכחדה אנושית הוא בערך הטלת מטבע." את המשפט הזה אמר ג'פרי אירווינג, שעבד בעבר ב-OpenAI וב-Google DeepMind, באחד מכתריסר ראיונות וידאו חדשים עם חוקרי AI. בין המרואיינים עובדים נוכחיים ולשעבר של OpenAI, גוגל ואנתרופיק. כך דיווח The Verge.

את הראיונות אסף ופרסם Palisade Research, שמגדיר את עצמו ארגון ללא מטרות רווח שחוקר את היכולות והמניעים של מערכות AI. הם זמינים באתר frominside.ai. חשוב לדייק: ה-50 אחוז הם הערכה אישית של אירווינג, לא ממצא מחקרי ולא עמדה משותפת של כל המרואיינים.

טווח של הערכות, ואף אחת מהן לא נמוכה

כמה מהחוקרים הצטרפו לאזהרה של אירווינג, כל אחד בניסוח משלו. ניל ננדה, מדען מחקר ב-Google DeepMind, אמר שיש "לפחות 10 אחוז סיכוי שזה יגרום להכחדה אנושית, וזה גבוה באופן מגוחך".

דניאל קוקוטאילו, חוקר לשעבר ב-OpenAI, הרחיק לכת וטען ש-AI בעל אינטליגנציית־על (superintelligence, כלומר מערכת שעולה על בני אדם כמעט בכל תחום) "יהיה בעל עוצמה כמעט אלוהית". לדבריו, "לצערנו אנחנו בכלל לא יודעים איך לשלוט בהן, ולכן כנראה שאף אחד לא ישלוט בהן. זה מסוכן בדיוק כמו שזה נשמע, ואסור לתת לזה לקרות".

"אתם צריכים לחשוד במה שאני אומרת"

לצד הראיונות המלאים, האתר מרכז קטעים של כמה דוברים שמתייחסים לאותן שאלות. אחת מהן היא האם כל השיח הזה הוא בסך הכול הייפ או שיווק. שאלה אחרת היא למה חוקרים ממשיכים לעבוד על טכנולוגיה שהם עצמם רואים בה סכנה כזו.

מרי פואונג מגוגל ענתה בגילוי לב: "אני חושבת שאתם בהחלט צריכים לחשוד במה שאני אומרת, כי המעבדה משלמת לי". ננדה הסביר את ההיגיון שלו: "אם לא הייתי מאמין שהעבודה שלי מפחיתה ישירות את הסיכונים הקיומיים האלה, הייתי מתפטר... החברות האלה לא יפסיקו לבנות את המערכות רק כי אני התפטרתי".

למה זה חשוב

אזהרות מפני "סיכון קיומי" מ-AI אינן חדשות. הן מזוהות בדרך כלל עם מה שמכונה בתעשייה "דומרים" (doomers), כלומר מי שצופים תרחישי אסון. הייחוד כאן הוא הדוברים עצמם: אנשים שעובדים או עבדו בתוך המעבדות שמפתחות את המודלים המתקדמים ביותר. ככל הנראה בדיוק זה המסר שהשם frominside ("מבפנים") נועד להעביר.

עם זאת, כפי ש-The Verge מציין, הסרטונים לא מציעים פתרון אחד ומגובש. גם קהילת "בטיחות ה-AI" עצמה מתקשה להגדיר מה המונח אומר ומה בדיוק צריך לעשות. המשמעות, להערכתי, היא שהראיונות מעבירים בעיקר תחושת דחיפות, לא תוכנית פעולה.

כדאי לזכור שני דברים כשקוראים את המספרים. הראשון: אין שיטה מוסכמת לחשב "הסתברות להכחדה". מדובר בהערכות סובייקטיביות של אנשים בודדים, והן שונות מאוד זו מזו, מ"לפחות 10 אחוז" ועד "הטלת מטבע". השני: כפי שפואונג עצמה אומרת, לאנשים שעובדים במעבדות יש אינטרסים משלהם. ובכל זאת, העובדה שחוקרים מתוך התעשייה מוכנים לומר דברים כאלה בפומבי ובשמם המלא היא ככל הנראה אחד האותות הברורים לכך שוויכוח הבטיחות כבר לא מתנהל רק בשוליים.