EFF: חברת DraftKings משתמשת ב-AI כדי לאתר מהמרים מפסידים ולהחזיר אותם לאתר
לפי ארגון זכויות הדיגיטל EFF, שמסתמך על דיווח ב"ניו יורק טיימס", חברת ההימורים הספורטיביים DraftKings מאמנת מודל למידת מכונה על היסטוריית ההימורים של לקוחותיה כדי לאתר מהמרים מפסידים ולשלוח להם מבצעים ממוקדים. ב-EFF מזהירים שמהמרים כפייתיים חשופים במיוחד למודל כזה, וקוראים לאסור לגמרי פרסום התנהגותי.
חברת ההימורים הספורטיביים המקוונים DraftKings משתמשת בבינה מלאכותית כדי לאתר את הלקוחות שהכי סביר שיהמרו ויפסידו, ושהכי סביר שיגיבו למבצעי הימורים. כך עולה מפרסום חדש של ארגון זכויות הדיגיטל האמריקאי EFF, שמסתמך על דיווח ב"ניו יורק טיימס". לפי הדיווח, החברה מאמנת מודל למידת מכונה (machine learning) על רישומי ההימורים של הלקוחות שלה כדי לזהות מהמרים מפסידים. אחרי שהם מזוהים, DraftKings שולחת להם פרסומות ממוקדות שנועדו להחזיר אותם לאתר ולהמר שוב, בהימורים שהחברה עצמה צופה שיסתיימו בהפסד.
איך זה עובד, ולמה זה משתלם
מה שמתואר כאן הוא סוג של פרסום התנהגותי מקוון (online behavioral advertising): חברות מתאימות את הפרסומות שכל משתמש רואה לפי הנתונים שאספו עליו. ככל שיש לחברה יותר נתונים, הפרסומת יכולה להיות מותאמת יותר.
ב-EFF מסבירים שיש כאן תמריץ עסקי ברור. המהמרים המפסידים הם אלה שמכניסים ל-DraftKings כסף בפועל, ולכן לחברה יש אינטרס שימשיכו לחזור. לדברי הארגון, הבעיה היא שמי שמוגדרים "מהמרים בעייתיים", כלומר אנשים שממשיכים להמר שוב ושוב גם כשזה פוגע בהם, בכספם ובמערכות היחסים שלהם, צפויים במידה רבה להימצא בין היעדים של המודל. לטענת EFF, כשהחברה מחזירה אותם לפלטפורמה במבצעים ממוקדים, היא מנצלת את הפגיעות שלהם כדי להרוויח במקום לצמצם את הסיכון שלהם.
מה ה-AI משנה
ב-EFF מדגישים שפרסום התנהגותי טורפני קיים כבר שנים, אבל לדבריהם השימוש ב-AI מעצים את הנזק. מודלים צריכים עוד ועוד נתונים כדי להתאמן ולהשתפר. מכיוון שמודל AI פועל כמו "קופסה שחורה", גם מי שבונים אותו מתקשים לצפות אילו נתונים יועילו לו במיוחד, ולכן הם ממשיכים לאסוף עוד ועוד. בנוסף, AI מאפשר לעבד מאגרי נתונים עצומים מהר יותר.
הארגון מצביע גם על הקשר הרחב יותר. לדבריו, נתונים שנאספים לצורכי פרסום נמכרים לחברות ביטוח, לבנקים ולגופי אכיפה פדרליים ומדינתיים, ובהם CBP, רשות המכס והגבולות האמריקאית. לפי EFF, גם ICE, רשות ההגירה והמכס, פרסמה מוקדם יותר השנה בקשה לקבלת מידע (Request for Information) כדי להבין איך ספקי Big Data ו-Ad Tech מסחריים יכולים לתמוך ישירות בפעילות החקירות שלה.
"הגבלת צד שלישי לא תספיק"
לפי EFF, נראה ש-DraftKings משתמשת רק ב"נתוני צד ראשון" (first party data), כלומר מידע שהיא אוספת ישירות מהמשתמשים שלה, בלי לקנות נתונים מגורמים חיצוניים. בארגון טוענים שזו בדיוק הנקודה: רגולציה שמגבילה רק שיתוף ומכירה של נתונים לצד שלישי לא הייתה עוצרת את המקרה הזה. לכן EFF קורא לאסור לגמרי פרסום התנהגותי מקוון. ההיגיון שלו הוא שאם חברות לא יוכלו לשלוח פרסומות מותאמות אישית, יהיה להן פחות תמריץ לאסוף את הנתונים ההתנהגותיים שמזינים אותן.
המשמעות
המקרה של DraftKings ממחיש ככל הנראה כיוון רחב יותר: כלים שמשווקים כדרך "להבין את הלקוח טוב יותר" יכולים לשמש גם לאיתור הלקוחות הפגיעים ביותר. בענף ההימורים, שבו חלק מההכנסות מגיע ממשתמשים שמתמודדים עם התמכרות, יש לכך משקל מיוחד. לפי EFF, הוויכוח כבר לא רק על השאלה מי מוכר את הנתונים שלנו, אלא גם על מה שחברה יכולה לעשות עם הנתונים שמסרנו לה בעצמנו. בינתיים הארגון מפנה משתמשים שרוצים להגביל את המעקב אחריהם לפרויקט Surveillance Self-Defense שלו.