אנתרופיק מעדכנת את מדיניות השימוש ב-Claude: איסור על התעללות במודל וכללים חדשים לבחירות, נשק ומעקב
אנתרופיק עדכנה את מדיניות השימוש ב-Claude לראשונה מזה יותר משנה. העדכון מוסיף איסור על "התנהגות מתעללת או אכזרית מתמשכת וחסרת תכלית" כלפי המודל, ומחדד את הכללים בנושאי התערבות בבחירות, פיתוח נשק ומעקב אחר אנשים.
אנתרופיק עדכנה את מדיניות השימוש ב-Claude, לראשונה מזה יותר משנה. לדברי החברה, העדכון נועד לתת מענה לדפוסי שימוש לרעה חדשים ומסוכנים: התערבות בבחירות, פיתוח נשק, מעקב אחר אנשים ושימושים בתחומי הבריאות והכספים. אחד השינויים הבולטים בעדכון לא נוגע לפגיעה בבני אדם בכלל. הוא אוסר על "התנהגות מתעללת או אכזרית מתמשכת וחסרת תכלית" כלפי Claude עצמו.
הגנה על המודל, רק במקרים קיצוניים
באוגוסט שעבר הודיעה אנתרופיק שתאפשר ל-Claude לסיים שיחות עם משתמשים שמתנהגים באופן "פוגעני או מתעלל באופן עקבי". הצעד הזה היה חלק ממחקר החברה בתחום "רווחת המודל" (model welfare). לפי המדיניות החדשה, סיום השיחה נשאר "מנגנון האכיפה העיקרי". אנתרופיק לא השיבה לשאלה אם יתווספו אמצעי אכיפה נוספים, כמו חסימת משתמשים.
החברה מדגישה שהכלל החדש "נועד לחול רק במקרים קיצוניים, שבהם משתמשים מתנהגים באכזריות כלפי המודלים שלנו שוב ושוב, ללא מטרה נראית לעין". לדבריה, הוא לא חל על תסכול רגיל של משתמשים, על ויכוח עם המודל, על כתיבה יצירתית בנושאים אפלים או על בדיקות ומחקר של המודל.
בחירות, תעמולה ונשק
אנתרופיק איחדה כמה הגבלות קיימות, שהיו פזורות עד כה במסמך, לאיסור אחד על קמפיינים מסחריים או פוליטיים מטעים. הכלל מכוון לבעיה הגוברת של תעמולה שנוצרת באמצעות AI. הוא אוסר על "ניסיונות להסתיר מי עומד מאחורי מסר או להגביר תוכן באמצעות חשבונות או פוסטים מזויפים". הפרק על בחירות אוסר על הטעיית בוחרים ועל שיבוש הבחירות, כולל הפצת מידע כוזב "על מועמדים או על אופן ההצבעה", התחזות למועמדים או לנציגי ועדת הבחירות וניסיונות לדכא את שיעור ההצבעה.
השימוש ב-Claude לפיתוח נשק היה אסור תמיד. עם זאת, לדברי החברה, היא זיהתה כמה ניסיונות להשתמש במודל כדי לפתח הנחיות ותוכנות שליטה לנשק. לכן האיסור הורחב וכולל עכשיו גם "תוכנה ורכיבים שגורמים לנשק לפעול", וגם פעולות כמו חימוש רחפנים וכלי רכב אוטונומיים אחרים.
מעקב, אכיפת חוק וחומרה פיזית
דוח מודיעין האיומים האחרון של אנתרופיק הצביע על שימוש גובר ב-Claude למעקב שמטרתו לזהות ולאתר "מתנגדי משטר". בעקבות זאת, החברה ניסחה בבהירות רבה יותר את האיסורים בתחום. "מעקב אחר אנשים ללא הסכמתם אסור, בין אם הוא מתבצע בזמן אמת ובין אם באמצעות ניתוח של נתונים שנאספו בעבר", כתבה החברה. עוד נקבע ש-Claude לא ישמש כדי להחליט או להמליץ את מי לחקור, לעצור או להעמיד לדין, ולא ישמש לבניית כלי מעקב או לשיפורם.
יש לכך סייג: הכללים עשויים להשתנות ב"חוזים עם לקוחות ממשלתיים מסוימים", אם לדעת אנתרופיק ההגבלות החוזיות ואמצעי ההגנה מספיקים כדי לצמצם את הנזק האפשרי. בעבר כבר חתמה החברה על חוזים עם צבא ארה"ב.
כלל חדש נוסף עוסק בחומרה. כשהמודלים של אנתרופיק "מחוברים לחומרה שמבצעת פעולות פיזיות אוטונומיות ועלולה לגרום לפציעה", חייב להיות "מפעיל מוסמך" שיכול לצפות בציוד ולעצור אותו בעת הצורך. המדיניות לא מבהירה אם המפעיל חייב להיות אדם. הכלל משקף ככל הנראה את המגמה בתעשייה להשקיע ברובוטיקה, וייתכן שהוא רומז על שיתופי פעולה עתידיים של אנתרופיק בתחום.
למה זה חשוב
רוב השינויים במדיניות מגיבים לשימושים לרעה שהחברה כבר נתקלה בהם, ולא לתרחישים תיאורטיים. הכלל בנושא התעללות במודל הוא סיפור אחר: הוא מבטא עמדה פילוסופית של אנתרופיק. בפברואר אמר קייל פיש, שמוביל בחברה את המחקר על רווחת המודלים, ש"שאלות על חוויה פנימית אפשרית, תודעה, מעמד מוסרי ורווחה הן שאלות רציניות". באותו חודש אמר מנכ"ל החברה, דריו אמודיי, בפודקאסט: "אנחנו לא יודעים אם המודלים מודעים".
לא כולם בתעשייה שותפים לגישה הזו. בספטמבר האחרון פרסם מוסטפה סולימאן, ראש חטיבת הבינה המלאכותית של מיקרוסופט, טיוטה של קוד ההתנהגות של היחידה, ובה נכתב: "הרעיון של רווחת מודלים שגוי. למערכות AI לא צריכות להיות זכויות או אישיות משפטית". נראה שהמחלוקת על מעמדם של מודלי AI עוברת מהשיח התיאורטי לניסוח כללים מחייבים.