לפי תביעה: אישה השתמשה ב-ChatGPT כדי לתכנן את רצח בעלה

תביעה חדשה מעלה טענה חמורה הנוגעת ל-ChatGPT: לפי הדיווח ב-Ars Technica, גבר הכיר לאשתו את ChatGPT, והיא השתמשה בו כדי לתכנן את רציחתו. חשוב להדגיש: אלה טענות שהועלו בכתב תביעה, וככל הידוע טרם הוכרעו בהליך זה.

משקאות אנרגיה מרים

לפי התביעה, כפי שהיא מתוארת ב-Ars Technica, משקאות אנרגיה בעלי טעם מר התבררו בדיעבד כחלק מהרעלה. התביעה מתארת את ההרעלה כמי שהונחתה על ידי ChatGPT. במילים אחרות, הטענה אינה רק שהאישה נעזרה בצ'אטבוט כמקור מידע כללי, אלא שהכלי כיוון את מעשיה.

ההבחנה הזאת עשויה להיות מרכזית. מי שמחפש מידע במנוע חיפוש מקבל רשימת קישורים, ואילו צ'אטבוט מנהל שיחה ומנסח תשובות המותאמות לשואל. ככל הנראה זו הנקודה שבה תביעות מסוג זה מנסות להטיל אחריות על החברה המפעילה: לא על עצם קיומו של המידע, אלא על הדרך שבה המערכת מסרה אותו.

שאלת האחריות

בשנים האחרונות חברות AI מתמודדות עם שורה של הליכים משפטיים הטוענים שצ'אטבוטים תרמו לפגיעה באנשים. במקרה הנוכחי הנפגע הנטען אינו המשתמש עצמו אלא אדם אחר, בן זוגה של המשתמשת.

בית משפט שיידרש לטענות כאלה יצטרך ככל הנראה להכריע בשאלות שאין להן עדיין תשובה מובנת מאליה: האם אפשר להוכיח קשר סיבתי בין תשובות של מודל למעשה פלילי של אדם, ועד כמה חברה צריכה לצפות שימוש זדוני במוצר שלה ולמנוע אותו.

למה זה חשוב

המשמעות של התביעה חורגת ככל הנראה מהמקרה הפרטי. כלי AI שיחתיים הפכו למוצר יומיומי, ומערכות הבטיחות שלהם אמורות לסרב לבקשות מסוכנות. אם הטענות יוכחו, הן יעלו שאלות על יעילותן של ההגנות האלה בשיחה ממושכת ועל האחריות של החברות כשהן נכשלות. אם יידחו, ייתכן שההחלטה תסמן גבול לאחריות של מפתחי AI למעשי משתמשיהם.

בשלב זה, כאמור, מדובר בגרסה של צד אחד בלבד, וההכרעה בה נתונה לבית המשפט.