מי מאמן את ה-AI? סטודנט בבראון ממפה את עובדי הנתונים הנסתרים של התעשייה

מאחורי הפיד ברשת החברתית, מסלול הנסיעה המומלץ או הסרט שהאפליקציה מציעה לכם עומדת מערכת AI. מאחורי המערכת הזאת עומדים בני אדם, ועליהם כמעט שלא מדברים. קוניאן מא (Cunyan Ma), סטודנט בשנה האחרונה לתואר ראשון באוניברסיטת בראון, מנסה לשנות את זה. לפי הודעת האוניברסיטה, הוא בנה מפה אינטראקטיבית שמקשרת בין חברות טכנולוגיה, חברות התיווך שלהן ועובדי הנתונים שמאמנים מודלים ברחבי העולם.

מפה של עבודה שקופה

מא עובד עם המרכז לאחריות, דמיון מחדש ועיצוב מחדש של טכנולוגיה (Center for Technological Responsibility, Reimagination and Redesign) באוניברסיטה. המפה היא חלק מפרויקט מתמשך שבוחן את התשתית הפיזית והאנושית של העולם הדיגיטלי. היא זמינה לציבור בחינם, ומשלבת שלושה סוגי מידע: מאגרי נתונים קיימים על עובדי נתונים, נתונים שמא אסף בעצמו, וכתבות חדשותיות שמתארות את תנאי העבודה.

לדברי האוניברסיטה, חלק גדול מהעבודה הזאת נעשה בידי אנשים שמשתכרים שכר נמוך בדרום הגלובלי, כלומר במדינות מתפתחות באפריקה, באסיה ובאמריקה הלטינית.

"המניע העיקרי שלי הוא להציג את הרעיון של קולוניאליזם של AI באופן שמשפיע ונגיש מיד", אמר מא. "הפער שאני מנסה למלא הוא שרוב מה שאנחנו יודעים על עובדי נתונים מגיע מדיווחים אנקדוטליים של סופרים ועיתונאים. הם חשובים, כי הם נותנים מבט מפורט מאוד על תנאי העבודה, על השכר וכן הלאה. אבל אני מקווה שהמפה תתחיל להשלים תמונה רחבה יותר של איך קולוניאליזם של AI נראה בפועל."

מה בעצם עושים עובדי הנתונים

כדי שמודל AI יעשה משהו מועיל, בני אדם צריכים לאמן אותו. בהודעת האוניברסיטה מתוארים כמה סוגים של עבודה כזאת:

• תיוג בסיסי: סימון עצמים בתמונות, או זיהוי חלקי דיבר במשפט.
• תמלול: העלאה לכתב של קטעי דיבור ארוכים.
• דירוג: הערכה אם תשובות של צ'טבוטים טובות או גרועות.
• עבודה מקצועית יותר: למשל סימון גבולות של גידול בסריקה רפואית.

רוב העבודה הזאת משעממת וחוזרת על עצמה, אבל מא מצביע על צד אפל יותר. כדי שמערכת AI תוכל לסנן תמונות ופוסטים מטרידים, או למנוע מצ'טבוט לייצר תוכן כזה, היא צריכה קודם ללמוד לזהות אותו. המשמעות היא שעובדי נתונים צריכים לצפות בתמונות ובטקסטים מזעזעים כדי לתייג אותם.

למה זה חשוב

הדיון הציבורי על AI מתמקד בדרך כלל במודלים עצמם, בחברות שמפתחות אותם ובשבבים שמריצים אותם. העבודה האנושית שמזינה את התעשייה נשארת לרוב מחוץ לתמונה. היא מגיעה לכותרות בעיקר דרך תחקירים עיתונאיים בודדים, וכפי שמא עצמו אומר, אלה נותנים מבט מעמיק אבל נקודתי.

הניסיון לאחד את המידע למפה אחת שמראה מי עובד בשביל מי ודרך אילו מתווכים עשוי, ככל הנראה, לעזור לחוקרים, לעיתונאים ולקובעי מדיניות לראות דפוסים במקום מקרים בודדים. השרשרת שבין חברת הטכנולוגיה לבין העובד שמתייג את הנתונים עוברת לרוב דרך חברות קבלן, ולכן קשה לייחס אחריות על תנאי העבודה. מיפוי של הקשרים האלה הוא צעד ראשון לקראת שקיפות כזאת.

חשוב לסייג: כרגע הסיפור מבוסס על הודעה אחת של האוניברסיטה. ההודעה לא מציינת כמה חברות, מתווכים או עובדים מופיעים במפה, וגם לא אילו מדינות נכללות בה. המפה עצמה בנויה בחלקה על מאגרים ודיווחים קיימים, ולכן היא כפופה למגבלות שלהם.