OpenAI מעדכנת את ה-Model Spec: חמישה ערכי ליבה למודלים חזקים יותר
OpenAI פרסמה גרסה מעודכנת של ה-Model Spec, המסמך שמגדיר איך המודלים שלה אמורים להתנהג. העדכון מתבסס על חמישה ערכי ליבה, ונועד לכוון מודלים בעלי יכולות גבוהות יותר לשיקול דעת נבון, לשמירה על השליטה של בני האדם ולנאמנות לכוונה האנושית.
OpenAI פרסמה גרסה מעודכנת של ה-Model Spec, מסמך ההנחיות שמגדיר איך המודלים של החברה אמורים לחשוב, להגיב ולהתנהג. לפי החברה, המסמך המעודכן מציג חמישה ערכי ליבה. הם נועדו לכוון מערכות AI בעלות יכולות גבוהות יותר אל שלושה יעדים: שיקול דעת נבון (sound judgment), שמירה על הסוכנות והשליטה של בני אדם (human agency), ונאמנות לכוונה האנושית (faithfulness to human intent).
מה זה בכלל Model Spec
ה-Model Spec הוא מעין "חוקה" התנהגותית שבה OpenAI מפרטת בפומבי איך היא רוצה שהמודלים שלה יפעלו: אילו בקשות למלא, איך לנהוג במצבים אפורים, ואיך להכריע כשהוראות שונות סותרות זו את זו. למסמך יש שני תפקידים. הוא משמש בסיס לאימון המודלים, והוא גם מאפשר לציבור, למפתחים ולחוקרים לדעת מה החברה מנסה להשיג, ולבדוק אם המודלים אכן עומדים בזה.
שלושת הכיוונים שמודגשים בעדכון
שיקול דעת. ההדגשה של "שיקול דעת נבון" מרמזת ככל הנראה על מעבר מרשימה של כללים נוקשים לגישה שמצפה מהמודל לשקול את ההקשר. ככל שמודלים מבצעים משימות מורכבות ופתוחות יותר, קשה לכתוב מראש כלל לכל מצב. המשמעות היא שהמודל צריך להבין את העקרונות שמאחורי הכללים, ולא רק לציית להם.
שליטה אנושית. ה-human agency נוגע לשאלה שמעסיקה רבים בתחום בטיחות ה-AI: איך לוודא שגם כשמערכות נעשות חזקות יותר, ההחלטות המשמעותיות נשארות בידי בני אדם. בעידן שבו מודלים פועלים יותר ויותר כ"סוכנים" שמבצעים פעולות בעצמם, לעיקרון הזה יש ככל הנראה משקל מעשי גדול.
נאמנות לכוונה. הנאמנות לכוונה האנושית עוסקת בפער שבין מה שהמשתמש ביקש מילולית לבין מה שהוא באמת רצה. מודל שממלא הוראה "ככתבה" אבל מפספס את המטרה, או מודל שמחליט בעצמו שהוא יודע טוב יותר, נכשל בשני כיוונים הפוכים. המטרה, כפי הנראה, היא שהמודל ישרת את הכוונה האמיתית בלי לעקוף את המשתמש.
למה זה חשוב
הניסוח של OpenAI מדבר במפורש על AI "בעל יכולות גבוהות יותר" (more capable). זו ככל הנראה הודאה בכך שההנחיות שהתאימו לצ'טבוט אינן מספיקות למערכות שמקבלות יותר אוטונומיה. השאלה כבר איננה רק מה המודל יגיד, אלא גם מה הוא יעשה.
בעיני מי שעוקב אחרי תחום הבטיחות, פרסום פומבי של עקרונות כאלה הוא כלי של שקיפות ושל אחריותיות. כשהעקרונות כתובים וגלויים, אפשר להשוות בינם לבין ההתנהגות בפועל של המודלים ולבקר את הפערים. עם זאת, מסמך עקרונות הוא הצהרת כוונות. כמה מצליחה החברה לתרגם אותו להתנהגות עקבית של המודלים יתברר רק בשימוש ובבדיקות עצמאיות.
המסמך המלא, על חמשת הערכים ופירוטם, זמין באתר של OpenAI.