אינסטגרם מחמירה כנגד חשבונות AI שמתחזים לבני אדם

אינסטגרם הודיעה כי תתחיל לפעול נגד חשבונות שבהם דמויות שנוצרו באמצעות בינה מלאכותית מוצגות כאילו הן בני אדם אמיתיים. הרשת החברתית, שבבעלות מטא, תחייב פרופילים כאלה לשאת תווית חדשה בשם "AI-generated profile" (במקום השם הקודם, "AI creator") — ופרופילים שלא יסמנו את עצמם כנדרש צפויים להיענש בהגבלת חשיפה.

דמויות וירטואליות שנראות אנושיות

תופעת "משפיעני ה-AI" — דמויות וירטואליות המוצגות כבני אדם עם עוקבים ותוכן שגרתי — הפכה נפוצה יותר ברשתות החברתיות, ואינסטגרם עצמה מציינת בהודעתה דוגמה מוכרת: הדמות Aitana Lopez. ככל שכלי היצירה מבוססי בינה מלאכותית משתכללים, נעשה קשה יותר להבחין בין דמות אנושית אמיתית לדמות מיוצרת — ולפי אינסטגרם, זה בדיוק מה שהוביל לתלונות משתמשים.

בפוסט בבלוג החברה נכתב: "שמענו שאנשים לא אוהבים לראות פרופיל שנראה אנושי, רק כדי לגלות מאוחר יותר שהדמות המוצגת בו נוצרה באמצעות בינה מלאכותית... הם רוצים לדעת מתי פרופיל מציג דמות שנוצרה על ידי AI", כך לפי הדיווח של The Verge.

איך ייאכף הכלל

לפי המנגנון שתפעיל אינסטגרם, חשבונות שיזוהו כמציגים דמות מבוססת AI מבלי לתייג זאת כנדרש ייענשו בהגבלת חשיפה: הפוסטים שלהם לא יומלצו למי שלא עוקב אחריהם, לא בפיד ה-Reels ולא בלשונית Explore. בעלי פרופילים שיסומנו בטעות, לפי החברה, יוכלו לערער על ההחלטה.

חשוב להדגיש: הכלל החדש חל רק על חשבונות שמציגים "דמות" מבוססת AI המחקה בן אדם קיים — ולא על כל מי שמשתמש בכלי בינה מלאכותית ליצירת תוכן. משתמשים רגילים שיוצרים תמונות, סרטונים או טקסטים בעזרת AI מבלי להתחזות לזהות אנושית, אינם נדרשים לתייג את התוכן שלהם.

מה זה אומר בפועל

המהלך, ככל הנראה, לא ייתן למשתמשים כלי לסנן החוצה תוכן AI גנרי ("AI slop") שמציף את הפיד באופן כללי — הוא מתמקד באופן ספציפי בהתחזות לזהות אנושית. עם זאת, מדובר בצעד הראשון המשמעותי שנוקטת אינסטגרם, בראשות המנכ"ל אדם מוסרי (Adam Mosseri), בנושא שמעורר תסכול גובר בקרב משתמשים שמרגישים מרומים כשהם מגלים בדיעבד שדמות שעקבו אחריה כלל לא קיימת במציאות.