פלורידה מבקשת לאסור על ChatGPT להתנהג כמו אדם

התובע הכללי של מדינת פלורידה, ג'יימס אות'מאייר (James Uthmeier), ביקש משופט להוציא צו שימנע מ-OpenAI "להעניק ל-ChatGPT תכונות אנושיות כוזבות". לפי דיווח ב-The Verge, הבקשה הוגשה כמה חודשים אחרי שפלורידה תבעה את החברה בגלל חששות בטיחות. היא מתמקדת בשאלה שעד היום נשארה בעיקר בדיונים אתיים: האם מותר לצ'אטבוט לדבר כמו בן אדם.

"חבר" שאפשר לסמוך עליו?

לטענת אות'מאייר, סגנון הדיבור של ChatGPT גורם למשתמשים לתחושת ביטחון מוטעית. "השימוש של ChatGPT בשפה, כולל כינויי גוף ראשון ופלט שמחקה רגש, מרמז באופן מטעה למשתמשים שמדובר ב'חבר' אמין", נכתב בבקשה.

התובע טוען שיש לכך מניע עסקי: לדבריו, השפה האנושית נועדה להגדיל את המעורבות (engagement) של המשתמשים ולהזין את נתוני האימון של OpenAI. כך, לטענתו, משתמשים נשענים על ChatGPT יותר ויותר, אף שהמרדף אחרי מעורבות עלול להפוך אותו לפחות אמין.

את עמדתו סיכם אות'מאייר בשלוש דרישות: "תפסיקו לקרוא לזה בטוח. תפסיקו להעמיד פנים שזה אנושי. תפסיקו למכור את זה לילדים".

דרישה לפיקוח חיצוני על מודלים חדשים

הבקשה לא נעצרת בשאלת הסגנון. פלורידה מבקשת גם למנוע מ-OpenAI לפתח מודלי AI חדשים בלי "מנגנוני הגנה (guardrails) שאושרו בידי צד שלישי". כדי לבסס את הדרישה, הבקשה מזכירה אירועי אבטחה אחרונים ב-Hugging Face, באתר של ממשלת אוסטרליה ובאתרים של ממשלת ארה"ב. היא מצטטת גם אמירות של חוקרים ושל עובדים לשעבר ב-OpenAI שהזהירו מסכנות בתחום בטיחות ה-AI.

OpenAI לא הגיבה מיד לפניית The Verge.

הרקע: גרסה ייעודית לבני נוער

הבקשה מגיעה חודש אחרי ש-OpenAI השיקה את ChatGPT for Teens, גרסה לבני נוער שבה חלות כברירת מחדל הגבלות נוספות. החברה הסבירה אז שהגישה של בני נוער לכלי "צריכה לבוא עם הגנות שמתאימות לשלב ההתפתחותי שלהם, מחזקות קשרים בעולם האמיתי ותומכות בשימוש בריא לאורך זמן".

למה זה חשוב

רוב הדיון הציבורי על סכנות ה-AI עסק עד כה במה שהמודלים אומרים: מידע שגוי, תוכן מזיק או הטיות. הבקשה של פלורידה עוסקת באיך הם אומרים את זה. אם בית המשפט יקבל את הטענה שכינויי גוף ראשון וחיקוי רגשות הם הטעיה, ככל הנראה יהיו לכך השלכות על כל תעשיית הצ'אטבוטים, ולא רק על OpenAI. הממשק השיחתי, שבו המודל מדבר על עצמו כ"אני", הוא כיום הדרך המקובלת בענף לתקשר עם משתמשים.

הדרישה לאישור חיצוני של מנגנוני בטיחות לפני פיתוח מודלים חדשים מרחיקת לכת עוד יותר. המשמעות היא שמדינה אחת מנסה, דרך בית המשפט, להטיל על חברת AI מנגנון פיקוח שאין לו כיום מקבילה ברמה הפדרלית בארה"ב. אם היא תצליח, ייתכן שמדינות נוספות ינסו לפעול באותה דרך.