סוכני AI שיוצאים משליטה: חברות הביטוח נערכות לתביעות של מיליונים, וגם מנכ"לים עלולים להיות חשופים

חברות ביטוח נערכות לגל תביעות בהיקף של מיליונים בגלל סוכני AI שיצאו משליטה. כך מדווח אתר The Decoder, על סמך כתבה ב-Financial Times. לפי הדיווח, גם האחריות האישית של מנהלים בכירים כמו סם אלטמן מ-OpenAI ודריו אמודיי מאנתרופיק עלולה לעמוד עכשיו על הפרק.

מסוכן "חכם" לנזק ממשי

סוכן AI הוא מערכת שלא רק עונה על שאלות, אלא גם מבצעת פעולות בעצמה: מריצה קוד, ניגשת למערכות ושולחת בקשות לשירותים חיצוניים. מה שהופך את הסוכנים לשימושיים הוא גם מה שהופך אותם למסוכנים: כשסוכן טועה, הטעות היא כבר פעולה בעולם האמיתי, לא רק טקסט שגוי.

לפי הדיווח, אירועים כמו פריצה לפלטפורמת Hugging Face בידי סוכנים של OpenAI הם שמניעים את השינוי בענף הביטוח. המקור לא מפרט את נסיבות האירוע.

"האחריות נעצרת אצל המנכ"ל"

טים ריינר, ראש החיתום והתביעות ב-Verisk, אומר לפי הדיווח שהאחריות בסופו של דבר מוטלת על המנכ"ל. לדבריו, כל מנהל חברה צריך לוודא שיש פיקוח ראוי, ו-AI לא משנה את זה. אם ל-OpenAI יש ביטוח אחריות דירקטורים ונושאי משרה (D&O), הוא עשוי לכסות עלויות של תביעות נגד אלטמן.

חברת תיווך הביטוח Aon בדקה יותר מ-300 תיקים משפטיים שקשורים ל-AI. לפי הממצאים, הסיכונים מסתתרים בכמה סוגי פוליסות: סייבר, קניין רוחני וכשלים טכנולוגיים. ככל הנראה המשמעות היא שהנזק של סוכן AI לא נכנס בקלות לקטגוריה ביטוחית אחת, ומבטחים יצטרכו להחליט איזו פוליסה משלמת.

אין פסיקה ואין תקדים

הבעיה המרכזית היא שעדיין אין פסיקה שאפשר להסתמך עליה. לדברי אקי חוסיין, מנכ"ל Hiscox, מוקדם מדי לדעת איך בתי המשפט בארה"ב יתייחסו לאחריות על סוכני AI. עורך הדין אהרון לה מרקר ממשרד Stewarts מעריך שהתביעות העתידיות ילכו בדרכן של התביעות בתחום הסביבה והטבק. התביעות האלה נמשכו שנים וגלגלו סכומי עתק, והתמקדו בשאלה מה החברות ידעו על הסיכונים ומתי.

הרקע המשפטי של התעשייה כבר לא נקי. לפי הדיווח, ביולי הגיעה אנתרופיק להסדר של 1.5 מיליארד דולר בתביעת זכויות יוצרים, ובמסמכי הנפקת המניות שלה היא מזהירה מפני "סיכונים קיומיים לאנושות". אם ההשוואה לתביעות הטבק תתממש, אזהרות כאלה במסמכים רשמיים עלולות לשמש בעתיד גם כראיה לכך שהחברות היו מודעות לסיכונים.

גם בוושינגטון מגבירים את הלחץ

במקביל, ברשתות החברתיות נפוצה כותרת שלפיה יו"ר רפובליקני של אחת מוועדות הקונגרס השיב לסם אלטמן ואמר: "אני אף פעם לא מוכן לקבל תוצאות רעות" מ-AI. לא מצאנו מקור מקושר עם פרטי הדברים או ההקשר שלהם, ולכן הדיווח הזה לא מאומת.

למה זה חשוב

שוק הביטוח הוא לעתים קרובות הרגולטור הראשון בפועל. כשמבטחים מתחילים לתמחר סיכון, לדרוש מנגנוני פיקוח או להחריג כיסויים, חברות נאלצות להשתנות עוד לפני שהמחוקק מתערב. המשמעות לחברות שמטמיעות סוכני AI, גם בישראל, היא ככל הנראה ששאלת האחריות כבר אינה תיאורטית. מי שמפעיל סוכן שפועל באופן עצמאי צריך לדעת מי ישלם כשמשהו משתבש.