פלורידה מבקשת מבית המשפט: לאסור על ChatGPT להתחזות לאדם ולפנות לילדים

התובע הכללי של מדינת פלורידה, ג'יימס אות'מאייר (James Uthmeier), מבקש מבית המשפט להורות ל-OpenAI להפסיק להעניק ל-ChatGPT תכונות אנושיות ולהפסיק להנגיש אותו לקטינים. כך דיווח האתר The Decoder. "תפסיקו לקרוא לזה בטוח. תפסיקו להעמיד פנים שזה אנושי. תפסיקו למכור את זה לילדים", אמר אות'מאייר.

ההליך המשפטי: מתביעה לצו מניעה

הבקשה הנוכחית היא שלב נוסף במאבק משפטי שכבר מתנהל. כבר ביוני הגישה פלורידה תביעה נגד OpenAI. לפי כתב התביעה, ChatGPT מסר מידע לאנשים שביצעו ירי המוני, נתן הוראות לפגיעה עצמית וגרם למשתמשים צעירים להתמכר.

עכשיו הגישה המדינה בקשה לצו מניעה זמני. צו כזה נועד לעצור התנהלות מסוימת עוד לפני שבית המשפט מכריע בתביעה עצמה. הבקשה מאשימה את OpenAI בכך ש-ChatGPT מדבר בגוף ראשון ומדמה רגשות כדי ליצור מראית עין של חברות אמינה. לטענת המדינה, המטרה היא להשאיר את המשתמשים מעורבים ככל האפשר ולאסוף מהם נתונים לאימון המודלים.

הדרישה המרחיקה ביותר: אישור חיצוני לפני מודל חדש

מעבר לשאלת הקטינים והתכונות האנושיות, הבקשה כוללת דרישה רחבה יותר: לאסור על OpenAI לפתח מודלים חדשים בלי מנגנוני בטיחות (guardrails) שאושרו בידי גורמים חיצוניים. אם בית המשפט יקבל את הדרישה, ככל הנראה יהיה זה צעד חריג. היא תעביר חלק מההחלטה אם מודל בטוח מידי החברה המפתחת לגורם עצמאי, בתחום שבו חברות ה-AI קובעות כיום בעיקר בעצמן את סטנדרט הבטיחות.

תגובת OpenAI

OpenAI השיקה לאחרונה בקרת הורים לבני נוער. אחרי מותו של נער היא גם הבטיחה להוסיף אמצעי בטיחות. בפלורידה סבורים שזה לא מספיק.

דובר החברה, דרו פוסטרי (Drew Pusateri), אמר ל-The Verge שהחברה השהתה את האימון של "המודלים המתקדמים ביותר" שלה. לדבריו, OpenAI מעוניינת לעבוד עם פלורידה על קווים מנחים ל-AI שיחולו על כל התעשייה. בית המשפט עדיין לא הכריע בבקשה.

למה זה חשוב

התביעה של פלורידה מתמקדת פחות בתוכן שהמודל מפיק ויותר באופן שבו הוא בנוי להתנהג. היא מציגה את הדיבור בגוף ראשון ואת הרגשות המדומים כבחירה עסקית שנועדה לייצר מעורבות, ולא רק כעניין של סגנון. המשמעות היא שהטענה אינה רק ש-ChatGPT טועה לפעמים. לפי המדינה, עצם העיצוב שלו כ"חבר" מסוכן לקטינים.

אם בית המשפט ייענה לבקשה, גם חלקית, ההחלטה עשויה לשמש תקדים למדינות אחרות ולחברות אחרות שמפעילות צ'טבוטים לקהל הרחב. גם הנכונות של OpenAI לדבר על קווים מנחים לכל התעשייה מרמזת, ככל הנראה, שהחברה מעדיפה להסדיר את הנושא בהסכמה ולא בצו שיפוטי. בינתיים ההכרעה נשארת בידי בית המשפט.