גוגל דיפמיינד משיקה מכון לדיון פתוח על AGI, בין שקיפות לרגולציה עתידית

גוגל דיפמיינד הכריזה ביום רביעי על השקת מכון חדש בשם DeepMind Institute, שמטרתו להרחיב את הדיון סביב בינה מלאכותית כללית (AGI) - התפתחות עתידית שבה מערכות AI יגיעו ליכולות קוגניטיביות רחבות ברמת בני אדם. כך דווח ב-TechCrunch. בין מנהלי המכון: שיין לג, ממייסדי דיפמיינד, שיכהן כעורך הראשי; ג'יימס מניאיקה, בכיר בגוגל; ודמיס חסביס, יו"ר גוגל דיפמיינד. לפי ההודעה הרשמית של המכון, מטרתו להציף מחלוקות בין גוגל, דיפמיינד וקהילת המחקר הגלובלית - כשהצדדים "לא תמיד יסכימו, וכנראה ישינו את דעתם ככל שיצטברו נתונים חדשים בחזית המחקרית המהירה".

האוסף הראשון של המכון כולל ארבעה מאמרים: על מדיניות כלכלית להתמודדות עם שיבושי AGI אפשריים, על שימור יכולת קריאה אנושית של תהליכי החשיבה של מודלים, על עקרונות לשגשוג אנושי, ועל מסגרת להערכת מודלים מתקדמים.

אחד המאמרים הבולטים, מאת חוקרי הבטיחות של דיפמיינד רוהין שאה ואנקה דרגן, עוסק בצמצום ההולך וגובר בשקיפות תהליכי החשיבה של מודלים - כלומר ביכולת לעקוב אחרי שרשרת ההיגיון שמודל מפיק צעד אחר צעד. השניים טוענים שהמגמה הזו אינה בלתי נמנעת: ארכיטקטורות חדשות הופכות את המודלים החזקים ביותר לקשים יותר למעקב, ולדעתם על מפתחים ורגולטורים להתמודד ישירות עם הפשרות שבטיחות כרוכה בהן. בין ההצעות שמעלה המאמר: להגביל את מה שהם מכנים "עומק סדרתי אטום" (opaque serial depth) - כמות החישוב הרציף שמודל יכול לבצע בלי להפיק תיעוד קריא של תהליך החשיבה - או לחייב מפתחים להוכיח שמערכות פחות שקופות נותרות ניתנות לפיקוח באותה מידה.

במאמר נפרד, חסביס מציע להקים גוף אמריקאי לתקינת בינה מלאכותית מתקדמת, שיבחן את המודלים החזקים ביותר. לפי המסגרת שהוא מתאר, מפתחי מודלים יגישו אותם מרצון לבדיקה עד 30 יום לפני ההשקה. אם מערכת ההערכה תוכיח את יעילותה, עמידה במבחניה עשויה להפוך בהמשך לתנאי סף להפעלת מודלים מתקדמים בארצות הברית. הגוף המוצע יגבש בשלב הראשון את מבחניו בהתייעצות עם חברות ה-AI עצמן, אך בהמשך יפתח גם מבחנים עצמאיים וסמויים - "held-out tests" בלשונו - כדי למנוע ממעבדות להתאים את המודלים שלהן מראש למבחנים ידועים. חסביס ציין שהמסגרת יכולה "להתהדק אם חומרת המצב תדרוש זאת", ואף לכלול האטה מתואמת בין מפתחי המודלים המובילים.

השקת המכון מגיעה בעיצומה של תזוזה מורגשת בשיח הבטיחות בתעשיית ה-AI: מהצהרות כלליות של דאגה אל עבר הצעות קונקרטיות יותר לגילוי נאות, ביקורת חיצונית, ובמידת הצורך - האטה מתואמת. לפי הדיווח, המגמה הואצה השבוע כשבכירים בתעשייה אימצו חלק מעקרונותיו של דריו אמודיי, מנכ"ל Anthropic, שקרא לתיזום פיתוח מודלי חזית.

המשמעות המעשית של הצעדים הללו תלויה בשאלה אם יתורגמו בפועל למנגנוני פיקוח מחייבים, או יישארו במישור ההצהרתי - שאלה שהמקורות הזמינים אינם עונים עליה בשלב זה.