כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםInstagram מחליפה את תגית "יוצר AI" בתווית חדשה "AI-generated profile", אחרי שמטא הודתה כי משתמשים רבים לא מצליחים להבחין בין פרופילים מבוססי בינה מלאכותית לבין בני אדם אמתיים. פרופילים שלא יסומנו צפויים לחשיפה מוגבלת ברשת.
Instagram מודיעה על החלפת תגית "AI creator" הקיימת בתווית חדשה בשם "AI-generated profile", בעקבות הודאה נדירה של החברה: משתמשים רבים פשוט לא מצליחים להבחין בין פרופיל שמנוהל על ידי בינה מלאכותית לבין בן אדם אמיתי. כך דיווח אתר Decoder ביום שני.
בהודעה שפרסמה, כתבה מטא: "שמענו שאנשים לא אוהבים לראות פרופיל שנראה אנושי, רק כדי לגלות מאוחר יותר שהדמות המוצגת נוצרה על ידי AI". מדובר במעבר ממתן אשראי חיובי ליוצרים שמשתמשים בכלי AI, למנגנון שמטרתו המוצהרת היא שקיפות כלפי הצופה.
לפי ההודעה, פרופילים שהתוכן שלהם מיוצר על ידי AI ולא יישאו את התווית החדשה יזכו לחשיפה והמלצות מוגבלות באפליקציה. בעלי חשבונות שנפגעים מהמדיניות יכולים להוסיף את התווית בעצמם, או לערער על הסיווג דרך כלי "Account Status" של הפלטפורמה. יוצרים שמשתמשים בכלי AI רק כאמצעי עזר בתהליך היצירה - ולא כדי להציג דמות מלאכותית כאילו הייתה אדם אמיתי - אינם נדרשים לתייג את עצמם, ושומרים על החשיפה המלאה שהיה להם קודם.
הצעד של Instagram מגיע על רקע גידול משמעותי בכמות התוכן המיוצר בבינה מלאכותית ברשת. לפי הדיווח, 21% מסרטוני YouTube Shorts כבר מיוצרים על ידי AI, ועל פי הערכות, המצב בInstagram וב-Facebook עשוי להיות דומה או חמור אף יותר, בפרט לאחר שכלי יצירת וידאו עברו שדרוגים משמעותיים לאחרונה. גם ברשת המקצועית LinkedIn מדובר בתופעה נרחבת, ולפי הנתונים המצוטטים 35% מהאתרים החדשים ברשת נכתבים כולם או בחלקם על ידי AI.
המהלך הנוכחי גם מסמן שינוי כיוון עבור מטא עצמה. עוד בסוף 2024 החברה תכננה מודל של "דו-קיום" בין פרופילי AI למשתמשים אנושיים, ואף ניסתה להשיק דמויות AI רשמיות משלה בפלטפורמה. לפי הדיווח, אותה יוזמה "לא הובילה לשום מקום" - כלומר לא זכתה לאימוץ משמעותי מצד המשתמשים.
המדיניות החדשה משקפת, ככל הנראה, הכרה של מטא בכך שהאסטרטגיה הקודמת - לתת ליוצרים תמריץ להזדהות מרצון כ-AI - לא הצליחה לרסן את התופעה, ושהחברה נאלצת כעת לעבור למנגנון ענישה: הגבלת חשיפה לחשבונות שאינם מתויגים. עבור משתמשי הרשת, המשמעות המעשית תלויה באכיפה בפועל - כלומר האם המערכת אכן תזהה ביעילות פרופילים מבוססי AI שאינם מתויגים, שאלה שהמקור אינו מספק לגביה נתונים.