"אין אדם בהגה": תוכנית בדלאוור תאפשר לסוכני AI להפעיל עסקים שלמים

תוכנית שנדונה במדינת דלאוור שבארה"ב תאפשר לסוכני AI להפעיל עסקים שלמים, ובראש החברה לא יעמוד אדם. כך מדווח האתר Ars Technica. ההצעה כבר עוררה ביקורת בוושינגטון: חבר הקונגרס האמריקאי קומר טוען שהבעלים של חברות שמנוהלות בידי AI יוכלו להתחמק מאחריות למעשים "פזיזים" (reckless) של המערכת.

למה דווקא דלאוור

דלאוור היא מדינה קטנה, אבל משקלה בעולם העסקים האמריקאי גדול בהרבה מגודלה. חלק גדול מהחברות הגדולות בארה"ב רשומות בה, בעיקר בזכות דיני תאגידים מפותחים ובית משפט ייעודי לענייני חברות. לכן כשדלאוור משנה את כללי המשחק לגבי מי רשאי לנהל חברה, ההשפעה צפויה לחרוג הרבה מגבולותיה. מדינות אחרות עשויות ללכת בעקבותיה, ויזמים מכל העולם עשויים לבחור לרשום בה חברות מהסוג החדש.

מה זה "סוכן AI"

סוכן AI (AI agent) הוא מערכת שלא רק עונה על שאלות כמו צ'טבוט, אלא מבצעת פעולות בעצמה: שולחת מיילים, מבצעת רכישות, חותמת על הזמנות, מנהלת תקציב ומקבלת החלטות בשרשרת, לרוב בלי אישור אנושי לכל צעד. ההבדל בין סוכן שמסייע לעובד לבין סוכן שמנהל את העסק כולו הוא בדיוק השאלה שהתוכנית בדלאוור מעלה: מה קורה כשאין אף אדם בשרשרת הפיקוד.

שאלת האחריות

לב הביקורת של קומר הוא האחריות המשפטית. בחברה רגילה יש בעלים, דירקטורים ומנהלים, וכשמשהו משתבש, החוק יודע על מי להטיל את האחריות. לפי טענתו של קומר, התוכנית בדלאוור עלולה ליצור מצב שבו הבעלים יכולים להצביע על המערכת האוטונומית כמי שקיבלה את ההחלטה המזיקה, ולהתנער מאחריות להתנהגות פזיזה שלה.

המשמעות האפשרית רחבה. אם סוכן AI שמנהל חברה מפר חוזה, פוגע בצרכנים או עובר על רגולציה, צריך שתהיה כתובת לתביעה ולאכיפה. ככל הנראה זה המוקד שבו יתנהל הוויכוח: האם תאגיד בלי אדם בהגה הוא חידוש עסקי לגיטימי, או דרך לנתק בין רווח לאחריות.

למה זה חשוב

עד היום רוב הדיון בהסדרת AI עסק בבטיחות המודלים, בפרטיות ובזכויות יוצרים. ההצעה בדלאוור מעבירה את הדיון לזירה אחרת: דיני התאגידים, שקובעים מי עומד מאחורי פעילות כלכלית. אפשר להעריך שהשאלה הזו תעסיק לא רק את המחוקקים בארה"ב, כי סוכני AI כבר נכנסים לשימוש בחברות ברחבי העולם, כולל בישראל, והגבול בין "כלי שהעסק משתמש בו" לבין "מי שמנהל את העסק" הולך ומיטשטש.

לפי שעה, הפרטים המלאים של התוכנית ולוח הזמנים לקידומה לא הובהרו. אבל המחלוקת שהיא עוררה כבר מציגה את השאלה שהרגולטורים יצטרכו להכריע בה בהמשך: כשמכונה מקבלת את ההחלטות, מי משלם על הטעויות?