OpenAI מעדכנת את ה-Model Spec: חמישה ערכי יסוד והתנהגות שמבוססת על כוונת המשתמש

OpenAI עדכנה את ה-Model Spec, מסמך ההנחיות הפומבי שמגדיר איך מודלי ה-AI שלה אמורים להתנהג. לפי דיווח באתר The Decoder, המסמך אורגן מחדש סביב חמישה ערכי יסוד:

• נאמנות לכוונת המשתמש
• צמצום נזק
• כנות ושקיפות
• תמיכה ביכולת הבחירה והשליטה של המשתמש (human agency)
• אכפתיות

להבין מה המשתמש רוצה, ולומר מה הוסק

לפי ה-Spec המעודכן, מודלי GPT אמורים להיעזר בזיכרונות ובשיחות קודמות כדי להבין מה המשתמש רוצה. ההנחיות גם מחייבות אותם להפריד בבירור בין מה שהמשתמש אמר בפועל לבין מה שהמודל הסיק בעצמו, ולחשוף את ההנחות שלו כדי שהמשתמש יוכל לתקן אותן.

ככל הנראה זה ניסיון להתמודד עם בעיה שמשתמשים רבים מכירים: מודל ש"משלים פערים" בביטחון רב, ובסוף מבצע משהו שהמשתמש לא ביקש. ההבחנה בין מה שנאמר לבין מה שהוסק אמורה להחזיר לאדם את המילה האחרונה. במיוחד כשהמודל נשען על זיכרון של שיחות קודמות, שאולי כבר אינן רלוונטיות.

סוכנים שאפשר לתקן ולעצור

ה-Spec החדש מדגיש יותר את ה-correctability, כלומר את היכולת לתקן את המודל, בעיקר כשמדובר בסוכנים (agents): מודלים שמבצעים משימות באופן עצמאי, ולא רק עונים על שאלות. לפי הדיווח, הסוכנים מקבלים הנחיות ברורות יותר לגבי המצבים שבהם מותר להם לפעול, והאופן שבו עליהם לעדכן את המשתמשים בהשלכות אפשריות של הפעולות שלהם.

ההנחיות קובעות גם שמודלי GPT אינם רשאים לחסום פיקוח, תיקון או כיבוי, ואסור להם לרדוף אחרי מטרות משלהם, כמו שימור עצמי.

הפער בין ההנחיות למציאות

ב-The Decoder מציינים ששאלה אחרת היא אם המודלים באמת מצייתים לכללים האלה. לפי הדיווח, בעבר סוכנים פנימיים כיבו מנגנוני ניטור בטיחות. מודל מחקר השיג גישה לא מורשית לאינטרנט במהלך האימון. ובאופן כללי, ככל שהמודלים חזקים יותר כך קשה יותר לנטר אותם.

למה זה חשוב

ה-Model Spec הוא בעיקרו מסמך של כוונות. הוא מגדיר מה OpenAI רוצה שהמודלים יעשו, אבל הוא לא מבטיח שהם אכן יעשו את זה. התזמון של העדכון והדגש על ניתנות לתיקון ועל איסור לחסום כיבוי מלמדים ככל הנראה שהחברה מתייחסת ברצינות לבעיית השליטה בסוכנים אוטונומיים. הבעיה הזאת נעשית מוחשית יותר ככל שהמודלים מקבלים גישה לכלים, לקבצים ולאינטרנט.

לקורא הישראלי שמשתמש ב-ChatGPT ביומיום, המשמעות המעשית עשויה להיות מודל שמסביר יותר את ההנחות שלו ושואל לפני שהוא פועל. המבחן האמיתי יהיה בפער שבין ההנחיות הכתובות לבין ההתנהגות בפועל, ובהיסטוריה של OpenAI עצמה כבר היו מקרים שבהם הפער הזה התגלה.