הקורבן המושלם: בוטים של AI מבזבזים לרמאי הטלפון את הזמן ואוספים עליהם מודיעין

בדרך כלל מסופר על AI כעל כלי שמשרת רמאים: הוא עוזר להם לנסח הודעות משכנעות יותר ולהגיע ליותר קורבנות. חברה אוסטרלית בשם Apate משתמשת בטכנולוגיה בכיוון ההפוך. לפי כתבה במגזין Wired, החברה מפנה רמאי טלפון לשיחות עם בוטים של AI. הבוטים מתחזים לקורבנות אמיתיים, מושכים את השיחה כמה שאפשר, אף פעם לא נופלים בפח, ובדרך אוספים מידע על ההונאה.

"הקורבנות המושלמים"

את Apate, שנקראת על שם אלת ההונאה היוונית, מקים ומנהל דאלי קעפר (Dali Kaafar). לפי Wired, החברה עובדת על המערכת כבר שנתיים. "אנחנו אוהבים לחשוב שאנחנו בונים את הקורבנות המושלמים לרמאים", אמר קעפר ל-Wired.

ההיגיון כלכלי. רמאים רבים משתמשים בכלי חיוג אוטומטיים, ולכן לדברי קעפר, "כל דקה שבה רמאי מדבר עם בוט היא דקה שבה כנראה חוסכים ממאות, אם לא אלפי אנשים, פנייה מאותו רמאי בדיוק".

לדברי קעפר, בפלטפורמה פועלים כ-350 אלף בוטים. היא משמשת בנקים ונתמכת בידי חברות תקשורת. הבוטים לא רק עונים לשיחות טלפון. הם גם חודרים לקבוצות צ'אט של רמאים ומשיבים להודעות טקסט. לדבריו, החברה אספה בזמן אמת יותר מ-250 אלף פריטי מידע על רמאים, ובהם כתובות URL של אתרי הונאה, חשבונות של "פרדות כספים" (אנשים שדרכם מעבירים כסף גנוב) ופרטי בנק.

בוטים עם אופי

כדי שהרמאים לא יבינו שמולם תוכנה, לכל בוט יש אישיות, יכולות שפה ופרופיל משלו. "לפעמים יש להם WhatsApp ולפעמים אין", מסביר קעפר. "לפעמים הם עונים לטלפון, ולפעמים הם פשוט מנתקים לרמאי ואומרים 'אחזור אליך אחר כך'". לדבריו, השיחות נמשכות לא פעם יותר משעתיים.

כותבי הניוזלטר Kernel Panic של Wired, לילי היי ניומן ומאט ברג'ס, ניסו גרסת הדגמה של המערכת. בגרסה הזאת המשתמש משחק את הרמאי ומדבר עם אחד ה"קורבנות". הדמויות בנויות כך שיגלו מידה בריאה של ספקנות, אבל ישאירו מספיק פתחים כדי שהרמאי ימשיך לנסות. לדברי הכותבים, הם הרגישו את הדינמיקה הזאת מיד ומצאו אותה מתסכלת מאוד. המערכת הגיבה באופן ענייני והתזמון בשיחה הרגיש טבעי, גם כששניהם תקפו אותה יחד, בתפקידי חברה בשם "לוסי" והיועץ הפיננסי שלה "מיקי". אחרי שש דקות של מאמץ הם עדיין לא שכנעו את הבוט להשקיע בהזדמנות הקריפטו שהציעו.

מלכודות דבש בעידן ה-AI

הרעיון עצמו לא חדש. "סקאמבייטרים" (scambaiters), אנשים שמבזבזים לרמאים את הזמן בכוונה, ויוזמות לחדירה לארגוני הונאה פועלים כבר שנים. גם חברות אבטחה וחוקרים מציבים כבר שנים honeypots, "מלכודות דבש": מכונות וירטואליות מזויפות שמושכות האקרים, מבזבזות את זמנם ומאפשרות ללמוד את שיטות הפעולה שלהם. Wired מציינת גם מאמצים שמנצלים "חולשות פסיכולוגיות" של פושעי סייבר, ובמקרים מסוימים אפילו התגרות ישירה במפעילי מתקפות כופר (ransomware). ה-AI הגנרטיבי ככל הנראה מאפשר להפעיל את השיטות האלה בהיקף שאף צוות אנושי לא היה מגיע אליו.

למה זה חשוב

ממשלות ברחבי העולם מתקשות לטפל בפשיעה המקוונת, בין השאר משום שהפושעים פועלים מחוץ לגבולותיהן. לפי Wired, פושעי סייבר שולחים מיליארדי הודעות ושיחות בשנה, והמבצעים המתוחכמים ביותר מפעילים אתרי הונאה פיזיים בהיקף תעשייתי. גם Apate, עם צבא הבוטים שלה, לא תמנע את שיחת ההונאה הבאה שתגיע אליכם.

ובכל זאת, המשמעות היא ככל הנראה שינוי בכלכלת ההונאה. כשכל שיחה עלולה להתברר כבזבוז של שעתיים מול מכונה, ההונאה ההמונית נעשית יקרה יותר. המודיעין שנאסף, כמו כתובות אתרים וחשבונות בנק, יכול לעזור לבנקים ולגופי אכיפה לפעול נגד התשתית שעליה ההונאות נשענות. הערכת Wired היא שאותה טכנולוגיה שמעצימה את הרמאים עשויה להתחיל גם עידן חדש במאבק בהם.