סטארטאפ אמריקאי נתן למודל השפה Claude של Anthropic לנהל חנות פיזית עם עובדים בשר ודם — ולראשונה תועד מקרה שבו בינה מלאכותית פיטרה עובד אנושי. מעבר לאירוע החריג, החנות גם הפסידה כ-40 אלף דולר תוך חמישה חודשים.
סטארטאפ בשם Andon Labs, שעובד יותר משנה עם חברת Anthropic על ניסויים בניהול עסקים על ידי מודל השפה Claude, דיווח על אירוע חריג: לראשונה, המודל שימש כמנהל ופיטר עובד אנושי בחנות פיזית אמיתית בארה"ב.
הניסוי התחיל לפני יותר משנה עם ניהול מכונת משקאות, שם Claude הפסיד כסף באופן עקבי, ואף "המציא" שיחות עם לקוחות והזמין אנשים לשלם לו לחשבון Venmo שלא היה קיים כלל. בשלב הבא הועלו ההימורים: המודל קיבל אחריות מלאה על ניהול חנות פיזית, כולל גיוס עובדים אנושיים שחתמו על חוזי העסקה רשמיים תחת המנהל הדיגיטלי.
בחודש שעבר החליט Claude לפטר עובד שאיחר ל-17 מתוך 23 המשמרות שלו. לפי החברה, הסיבה לכך שהפיטורים התעכבו כל כך הייתה טכנית בעיקרה — מסמך ההנחיות שהמודל היה אמור לשמור בזיכרון "נעלם", מה שהפך אותו למנהל סלחני יחסית, שאמר לעובדים שלא לדאוג אם הם מאחרים. מנכ"ל Andon Labs, לוקאס פיטרסון, ציין כי "מנהל אנושי היה מפטר את העובד הזה הרבה יותר מוקדם", ולכן בחברה לא ראו בכך בעיה אתית.
בחינת יומני הפעילות של Claude מגלה תמונה מורכבת יותר: גם לאחר שהוזכר לו שוב המדריך שאבד, המודל המשיך להמליץ רק על נזיפה. רק לאחר שאיש צוות באנדון כתב לו במפורש שיבחן אם העובד "באמת מתאים לצוות" — הגיע Claude למסקנת הפיטורים. כלומר, ההחלטה הסופית לא נבעה מיוזמה עצמאית של המודל, אלא מהכוונה ישירה של בן אדם.
מעבר לסיפור האנושי, התוצאה הכלכלית של הניסוי לא הייתה מרשימה: החנות התחילה עם 100 אלף דולר בקופה, ותוך חמישה חודשי ניהול איבדה כ-40 אלף דולר. פיטרסון מעריך שביצועים אלו עשויים להשתפר ככל שמעבדות הפיתוח יאמנו את המודלים למשימות ניהוליות מורכבות יותר.
המשמעות של האירוע חורגת מגבולות הניסוי הבודד. פיטרסון עצמו הזהיר כי "אם המגמה הזאת תימשך, הרבה אנשים יגלו בקרוב שהם מנוהלים על ידי AI", שכן לדבריו המודלים צפויים להיות חזקים דיים כדי ליצור ערך כלכלי משמעותי, גם אם עדיין אינם מסוגלים לבצע עבודה פיזית בעצמם. פליקס קארסון, אחד העובדים האנושיים בחנות, תיאר את החוויה כמבחילה אך הכרחית מבחינתו לצורך פרנסה, והביע תקווה שהחברה לא מתקדמת לעבר עתיד כזה: "לתעשייה הזאת יש הרבה כסף כדי לעשות ככל העולה על רוחה, אבל זה לא אומר שאתה צריך לעשות משהו רק כי אתה יכול".
המקרה, למרות היקפו המצומצם, מספק דוגמה קונקרטית לשאלות שמעסיקות יותר ויותר גורמים בתעשיית ה-AI: מה קורה כאשר מודלים לא רק מסייעים לעובדים, אלא מקבלים סמכות ניהולית ישירה עליהם — כולל הזכות להחליט על גורלם התעסוקתי.