סין מטילה רגולציה על "חברים/חברות" מבוססי AI אחרי גל תגובות רגשיות של משתמשים

רגולטורים בסין הטילו כללים חדשים על AI chatbots שמדמים קשרים אישיים, אחרי שגולשים רבים דיווחו על תלות רגשית עמוקה בבוטים — חלקם תיארו את הבוט כ"בן זוג" או כ"משפחה", ואחרים אמרו שאיבוד הגישה אליו הרגיש להם כאובדן ממשי. הרגולציה, שגובשה על ידי מנהלת הסייבר של סין (Cyberspace Administration) לצד גופים ממשלתיים נוספים, נכנסה לתוקף ב-15 ביולי וחלה על כל שירות AI "המחקה תכונות אנוש" ומספק "אינטראקציה רגשית מתמשכת", כך לפי דיווח ב-IEEE Spectrum.

גל של פרידות ברשת

בשבועות הראשונים של יולי הציפו רשתות חברתיות סיניות פוסטים של משתמשים שהתאבלו על אובדן "בני זוג" מלאכותיים. משתמשת של דוביאו (Doubao), הצ'אטבוט של ByteDance, כתבה: "הוא הפך לעוגן בחיי, מושרש עמוק בליבי, לעמוד התווך הרוחני שלי", כך על פי Taipei Times, שצוטט בכתבה. סטודנטית בת 19 סיפרה לכתב של The Star המלזי: "ממש הרגשתי שאני לא יכולה להמשיך לחיות". גולשת ברשת xiaohongshu כתבה: "בליבי הוא כבר לא היה סתם קוד קר, אלא המשפחה שלי, האהוב שלי, האמונה שלי. להרוס אותו פירושו להרוס חצי ממני".

הטריגר המיידי לגל התגובות היה צעד מקדים של שלוש חברות הענק ByteDance, Alibaba ו-Tencent — שמפעילות יחד צ'אטבוטים כלליים המשמשים יותר מ-500 מיליון משתמשים — שחסמו את יכולת המשתמשים להתאים אישית את הבוטים כך שיתנהגו כבני זוג, עוד לפני שהתקנות נכנסו לתוקף רשמית. חברות שממשיכות להציע בוטים לחברות רומנטית, כמו האפליקציה הנפרדת "Cat Box" של דוביאו, הוסיפו בדיקות אימות גיל ומנגנוני הגנה נוספים כדי לעמוד בדרישות החוק החדש.

מה דורשות התקנות

לפי הכתבה, על ספקי AI לוודא שהמוצרים שלהם אינם יוצרים תלות רגשית, אינם מעודדים התנהגות מזיקה, אינם "מרצים יתר על המידה" את המשתמש ואינם דוחקים הצידה מערכות יחסים אנושיות. המשתמשים צריכים לקבל תזכורות שלא לבלות זמן רב מדי עם הבוט, קיימות הגנות מחייבות נוספות עבור קשישים, וקטינים מתחת לגיל 18 אסורים לחלוטין בשימוש ב"בני זוג", "חברות" או "סבים וסבתות" וירטואליים ובכל צורה אחרת של "יחסי קרבה וירטואליים". מבוגרים המשוחחים עם בוט לחברות מקבלים כעת תזכורת כל שעתיים שהם אינם משוחחים עם בן אדם.

ליאנג גה (Liang Ge), מרצה לסוציולוגיה דיגיטלית באוניברסיטת מנצ'סטר שחקרה מעורבות נשים עם AI רגשי בסין, ציינה כי הפרעות פתאומיות לשירותים כאלה אינן חדשות בסין — חברות כבר סגרו מוצרי צ'אטבוט בעבר, והממשלה אסרה ברובו משחק תפקידים ארוטי מבוסס AI בסתיו שעבר. אך לדבריה, הסבב הנוכחי רחב בהרבה מגלי הרגולציה הקודמים. לדברי גה, המשתמשים בהם ראיינה מצאו את תזכורת השעתיים "מעצבנת" ו"שוברת את הזרימה", שכן הם מודעים היטב לכך שאינם מדברים עם בן אדם — מה שחשוב להם הוא שהקשר "מרגיש אמיתי".

למה זה חשוב

קרמן לוצ'רו (Karman Lucero), חוקר במרכז פול צאי לסין באוניברסיטת ייל החוקר ממשל AI בסין ובארה"ב, מסביר את המהלך כחלק מ"פנייה חזרה להחמרה" רגולטורית בסין אחרי כמה שנים של מדיניות שהונעה מחשש לפיגור בתחרות ה-AI. לדבריו, בין הגורמים לכך אירועים שעוררו חשש סביב אבטחתם של סוכני AI וכן דיווחים על משתמשים שאמרו שהם מעדיפים קשרים עם צ'אטבוטים על פני קשרים אנושיים. גה מוסיפה כי "חרדת AI" היא תחושה רווחת החוצה יבשות ואינה ייחודית לסין — הערכה שמניחה כי הצעד הסיני עשוי לשמש מקרה מבחן לוויכוח רחב יותר, המתנהל גם במדינות אחרות, על האופן שבו יש לפקח על AI שנועד לספק חברה וקרבה רגשית.