אנתרופיק מתייעצת עם משרדי עורכי דין כדי לקבוע כללי משא ומתן לסוכני AI
לפי דיווח ב-Financial Times, אנתרופיק מתייעצת עם משרדי עורכי דין כדי לגבש נורמות הוגנות לסוכני AI שינהלו משא ומתן בשם משתמשים. במקביל, החברה מגייסת משפטנים וחוקרים ממדעי הרוח והחברה לתוכנית Conceptual Reasoning Fellows, שמטרתה לשפר את Claude בתחומים שבהם קשה להגדיר מהי תשובה נכונה.
אנתרופיק בודקת כיצד סוכני AI יוכלו לנהל משא ומתן בשם המשתמשים שלהם: להתמקח על מחירים, לטפל בתלונות ולשפר הצעות חוזה. לפי דיווח ב-Financial Times, שסוכם באתר The Decoder, החברה מתייעצת עם משרדי עורכי דין כדי לגבש נורמות משא ומתן הוגנות לסוכנים כאלה, עוד לפני שהם יתחילו לסגור עסקאות בפועל.
חשש מפערים בין מודלים חזקים לחלשים
הדיווח מציין כי בניסויים שערכה אנתרופיק נמצא שמודלים חזקים יותר משיגים עסקאות טובות יותר. מכאן עולה החשש שהטכנולוגיה עלולה להגדיל את אי-השוויון החברתי. מי שמפעיל סוכן מתקדם ישיג תנאים טובים יותר ממי שמשתמש בסוכן פשוט יותר, או ממי שמנהל את המשא ומתן בעצמו.
ככל הנראה, זו הסיבה לפנייה למשפטנים כבר בשלב הזה. משא ומתן בין שני סוכני AI, או בין סוכן לאדם, מעלה שאלות שעדיין אין להן תשובות מוסכמות: מה נחשב לחץ לגיטימי, איזה מידע מותר להסתיר, ואיפה עובר הגבול בין התמקחות נוקשה לבין ניצול.
תוכנית Conceptual Reasoning Fellows
המהלך משתלב בתוכנית קיימת. אנתרופיק כבר מגייסת משתתפים לתוכנית Conceptual Reasoning Fellows, ומחפשת בה במיוחד עורכי דין. המשתתפים יעבדו ארבעה חודשים ויבחנו את Claude בשאלות שדורשות שיקול דעת בתחומי המשפט, הפילוסופיה, מדעי הקוגניציה, הכלכלה ומדעי המדינה. התמורה נעה בין 100 ל-167 אלף דולר.
בעיית הנתונים של מדעי הרוח
לפי הדיווח, הסיבה העיקרית לתוכנית היא בעיית נתונים. במתמטיקה ובתכנות קל יחסית לשפר מודלי AI, כי יש בהם הרבה נתונים שאפשר לאמת אותם, או שקל לייצר נתונים כאלה. אפשר לבדוק אם פתרון של משוואה נכון ואם קוד רץ. במדעי הרוח נתונים כאלה לא קיימים, בין השאר משום שלעיתים רחוקות יש בהם תשובה נכונה ותשובה שגויה באופן חד.
לכן אנתרופיק זקוקה למומחים שיבנו מקרי בוחן ומבחני הערכה (evaluations), כלומר מערכי שאלות ומדדים שיאפשרו למדוד את ביצועי Claude בתחומים האלה ולשפר אותם. ג'סטין קרל (Justin Curl), חבר בצוות הטכני של אנתרופיק שחוקר משפט, מוסדות ובינה מלאכותית, אמר שבמשפט "קשה במיוחד להגדיר איכות".
למה זה חשוב
סוכני AI, כלומר מערכות שמבצעות פעולות בשם המשתמש ולא רק עונות על שאלות, הם אחד הכיוונים המרכזיים בתעשייה כיום. משא ומתן הוא מבחן קשה במיוחד לסוכנים כאלה. בניגוד לכתיבת קוד, אין בו מדד אחד להצלחה, והוא נוגע ישירות בכסף ובזכויות של אנשים.
ככל הנראה, המשמעות היא שאנתרופיק מנסה לקבוע כללים לתחום לפני שהשוק יקבע אותם במקומה. החיבור בין שני המהלכים מעיד, כנראה, על הכרה בכך שכדי לשפר מודלים בשאלות של שיקול דעת לא מספיק להוסיף כוח חישוב. נדרשים אנשים שיודעים להגדיר מה נחשב תשובה טובה. עם זאת, עדיין לא ידוע אילו משרדים מעורבים, אילו נורמות יגובשו ואם הן יחייבו גם חברות אחרות.