משרד המשפטים האמריקאי חושף "תלמידי רפאים" שמשתמשים ב-AI כדי לסיים קורסים ולגנוב הלוואות סטודנטים
משרד המשפטים האמריקאי חושף תופעה של "תלמידי רפאים": ככל הנראה זהויות פיקטיביות או גנובות שנרשמות ללימודים, משתמשות בכלי AI כדי לעבור קורסים וגונבות כספי הלוואות סטודנטים. ככל שהאכיפה מתהדקת, תהליך הגשת הבקשה לסיוע פדרלי (FAFSA) עלול להסתבך גם לסטודנטים אמיתיים.
משרד המשפטים האמריקאי (DOJ) חושף תופעה של "תלמידי רפאים" (ghost students): זהויות של סטודנטים שאינם קיימים באמת, שנרשמים למוסדות לימוד, משתמשים בבינה מלאכותית כדי לסיים קורסים ומושכים בדרך הזו כספי הלוואות סטודנטים. כך מדווח באתר Ars Technica, שמציין גם שככל שהמאבק של משרד המשפטים בתופעה מתעצם, הגשת בקשה ל-FAFSA, הטופס הפדרלי לבקשת סיוע במימון לימודים, עלולה להפוך למסובכת יותר.
איך עובדת ההונאה
הרעיון שמאחורי "תלמידי רפאים" פשוט יחסית: במקום לפרוץ למערכת, הרמאים נכנסים אליה בדלת הראשית. הם פותחים פרופיל של סטודנט, ככל הנראה על בסיס זהות פיקטיבית או גנובה, נרשמים לקורסים ומבקשים סיוע כספי. מה שמשנה את התמונה, לפי הדיווח, הוא הבינה המלאכותית: היא מאפשרת ל"סטודנט" שאינו קיים להגיש עבודות ולעמוד בדרישות הקורסים.
החשיבות של זה ברורה. ביכולת להשלים קורסים בפועל, ולא רק להירשם אליהם, ככל הנראה טמון ההבדל בין הונאה שמתגלה מהר לבין הונאה שנראית כמו פעילות לימודית רגילה. מערכות שנועדו לזהות סטודנטים "לא פעילים" מתקשות להבחין בסטודנט שמגיש מטלות בזמן, גם אם מי שכותב אותן הוא LLM, מודל שפה גדול כמו אלה שמפעילים צ'טבוטים מוכרים.
המחיר שישלמו הסטודנטים האמיתיים
הזווית המרכזית בדיווח נוגעת לצד השני של המשוואה: מאבק בהונאה עולה כסף, וגם מחייב בדיקות נוספות. לפי Ars Technica, הגברת האכיפה מצד משרד המשפטים עלולה להפוך את הגשת ה-FAFSA ל"מבולגנת" יותר. מהמקור לא ברור אילו צעדים בדיוק ייושמו, אבל ההיגיון המוכר במקרים כאלה הוא הוספת שלבי אימות זהות, מסמכים ובדיקות, שמכבידים על כל המגישים ולא רק על החשודים.
המשמעות עבור מיליוני סטודנטים אמריקאים שתלויים בסיוע פדרלי היא ככל הנראה תהליך ארוך יותר ופחות צפוי, בדיוק בשלב שבו הם צריכים לתכנן את מימון הלימודים.
למה זה חשוב
הסיפור הזה מצטרף לשורה של מקרים שבהם כלי AI, שתוכננו לעזור בכתיבה ובלמידה, מנוצלים להונאה בקנה מידה רחב. החידוש כאן הוא ש-AI לא משמש רק לזיוף מסמכים או לניסוח הודעות פישינג, אלא כדי "לגלם" אדם לאורך זמן, ולעמוד שבוע אחרי שבוע בדרישות של קורס אקדמי.
עבור מוסדות להשכלה גבוהה, ובמיוחד מוסדות שמציעים לימודים מקוונים, השאלה איך מוודאים שמאחורי המסך יושב אדם אמיתי הופכת ככל הנראה מבעיה תיאורטית לבעיה תפעולית ופיננסית. ועבור הקורא הישראלי, זו תזכורת לכך שכל מערכת שמחלקת כסף על בסיס פעילות דיגיטלית, בין אם מלגות, הטבות או מענקים, חשופה לאותו סוג של ניצול. המחיר של סגירת הפרצה עלול ליפול גם על המשתמשים הלגיטימיים.