בית משפט: ממשל טראמפ רשאי להכניס את אנתרופיק לרשימה שחורה בגלל סירובה להפעיל תכונות ב-Claude

בית משפט בארצות הברית קבע שממשל טראמפ רשאי להכניס את אנתרופיק לרשימה שחורה, בעקבות סירובה של החברה להפעיל תכונות מסוימות במודל ה-AI שלה, Claude. כך דיווח האתר Ars Technica. בנימוקים עלה גם שיקול ביטחוני: לפי הדיווח, השופטים כתבו ש"מודלי AI מוגבלים יתר על המידה" (Overly constrained AI models) עלולים לגרום לכישלון של מבצעים צבאיים.

מה ידוע ומה עדיין לא

הדיווח מתאר את עיקר הפסיקה: הממשל רשאי להעניש חברת AI על כך שלא הסכימה להסיר מגבלות מהמוצר שלה. הוא עדיין לא מאפשר לדעת אילו תכונות של Claude עמדו במרכז המחלוקת, אילו גופי ממשל מעורבים ומה ההשלכות המעשיות של הכניסה לרשימה השחורה. לא ידוע גם אם אנתרופיק מתכוונת לערער. פרטים אלה עשויים להתברר כשיתפרסם נוסח הפסיקה המלא או כשהחברה תגיב.

הרקע: חברה שבנתה את עצמה על בטיחות

אנתרופיק היא אחת מחברות ה-AI הבולטות בעולם, והיא מציגה את עצמה כחברה שמציבה בטיחות במרכז. ל-Claude יש מדיניות שימוש שמגבילה סוגים מסוימים של שימושים, בדומה למקובל אצל רוב מפתחות ה-LLM (מודלי שפה גדולים). המחלוקת הזו מעמידה בדיוק את המגבלות האלה מול דרישות הממשל, והשופטים מנסחים את השאלה במונחים של ביטחון לאומי ויעילות צבאית.

זה איננו עימות שולי. בשנים האחרונות גופי ביטחון בארצות הברית ובעולם מגדילים את השימוש במודלי AI מסחריים, וחברות הטכנולוגיה נדרשות להחליט עד כמה הן מוכנות להתאים את המוצרים שלהן לצרכים צבאיים. חלקן הרחיבו את שיתופי הפעולה עם גופי הביטחון, ואחרות הקפידו לשמור על קווים אדומים.

למה זה חשוב

ככל הנראה, המשמעות העיקרית של הפסיקה היא שינוי ביחסי הכוחות בין הממשל לחברות ה-AI. עד עכשיו המגבלות שחברה מטילה על המודל שלה נחשבו בעיקר להחלטה עסקית ואתית שלה. אם הפסיקה תעמוד, ייתכן שלממשל יהיה בסיס משפטי להפעיל לחץ כלכלי משמעותי על חברות שמסרבות להסיר מגבלות כאלה, לפחות כשמדובר בצרכים ביטחוניים.

הנימוק של השופטים, שלפיו מודל מוגבל מדי הוא בעצמו סיכון מבצעי, מציג כנראה נקודת מבט חדשה על מגבלות הבטיחות: לא הגנה בלבד, אלא גם מכשול פוטנציאלי. ההערכה היא שחברות AI אחרות יעקבו אחר ההמשך מקרוב, משום שהתוצאה עשויה להשפיע על היכולת של כל אחת מהן לומר "לא" ללקוח הגדול ביותר שיש: הממשל האמריקאי.

בינתיים יש יותר שאלות מתשובות. כדי להבין את מלוא ההשלכות צריך לדעת מה בדיוק התבקשה אנתרופיק להפעיל, ומה עלול לקרות לה עכשיו.