חקירה של Wired חשפה מערכת AI חדשה בשם OS Investigate, שפיתחה חברת המעקב הרכבי Flock Safety עבור משטרות בארה"ב. בניגוד להצהרות החברה כי הטכנולוגיה שלה אינה מזהה או עוקבת אחר אנשים, המערכת מסוגלת לאתר נהגים ולעקוב אחריהם על פי דפוסי תנועה בלבד, ולהפוך לוחיות רישוי לשמות, כתובות ופרטים אישיים.
חברת המעקב הרכבי Flock Safety, המפעילה רשת מצלמות בלמעלה מ-6,000 קהילות בארה"ב, פיתחה כלי AI חדש למשטרה שמסוגל, לפי חקירה של Wired, לזהות נהגים ולעקוב אחר כלי רכב על סמך דפוסי תנועה בלבד - יכולת שהחברה טענה במשך שנים כי מערכותיה אינן מציעות.
הכלי, שנקרא במקור Nightshift ושונה שמו לאחרונה ל-OS Investigate, כולל 69 שאילתות מוכנות מראש שקצינים יכולים לבחור, לערוך ולהגיש למערכת ה-AI, בנוסף לאפשרות להזין שאילתות משלהם. לפי הכתבה, קוד התוכנה, שנמצא בקובץ של יותר מ-450 קבצים באתר Flock, חושף שהמערכת מחוברת ל-45 כלים שונים, ובהם נתוני מצלמות, רישומי מעצרים, תיקי חקירה, יומני מוקד 911, תוצאות בליסטיות ומאגרי מידע מסחריים הכוללים מספרי ביטוח לאומי, תאריכי לידה, מספרי טלפון וקרובי משפחה.
בין השאילתות שנחשפו: בקשה לאיתור "עדים" על סמך כלי הרכב הנפוצים ביותר בשכונה מסוימת בשבועיים האחרונים, ובקשה למיפוי כל מי שנעצר יותר מפעמיים בשנתיים האחרונות (למעט עבירות סמים), ולערוך "בדיקת רקע" מקיפה לשלושה מהם - הכל בפקודה אחת. שאילתות נוספות מבקשות איתור רכבים שביקרו בשלוש חנויות קמעונאיות תוך שלושה ימים, במספר בנקים תוך שבוע, או בתחנות דלק בין חצות לחמש בבוקר - ללא צורך בשם, לוחית רישוי או תיאור חשוד. אחת השאילתות אף מבקשת ממערכת ה-AI לאתר את שלושת ה"מקורבים" המובילים של רכב מסוים, על סמך הופעה חוזרת ליד אותו רכב במרווח של שתי דקות במצלמות שונות.
לפי הדיווח, Flock לא הגיבה לשאלות ספציפיות על יכולות המוצר ולא הכחישה את הממצאים. דובר החברה, פריז לוובל, מסר כי מדובר במוצר נפרד מטכנולוגיית קריאת הלוחיות של החברה, המיועד לסייע לחוקרים לעבוד עם מידע שכבר קיים ברשות הרשויות, וכי היכולות עשויות להשתנות משמעותית לפני השקה רחבה יותר.
הפער בין הצהרות החברה בעבר - שלפיהן הטכנולוגיה שלה "לא נועדה לצפייה באנשים" - לבין מה שנמצא בקוד, מעורר ביקורת מצד גורמי פרטיות. ג'יי סטנלי, אנליסט מדיניות בכיר ב-ACLU, אמר לכתבים כי הציבור מניח שקוראי לוחיות רק בודקים אם רכב מבוקש, אך בפועל נראה שיש פחות ופחות מרחק בין מה שניתן לעשות טכנולוגית לבין מה שאכן נעשה. שוטר לשעבר במחלקת המשטרה בפוטאקט, רוד איילנד, שסקר את השאילתות עבור Wired, תיאר את הממצאים כ"מטורפים" ואמר כי קשה לטעון שהמערכת אינה עוקבת אחר אנשים במובן המילולי.
החשיפה מגיעה בעיצומם של גל התנגדות גובר לפעילות Flock, הכולל לחץ פוליטי דו-מפלגתי, מקרים מתועדים של ניצול לרעה של המערכת בידי שוטרים, וגם גל ונדליזם שבו מצלמות נוסרו או צוירו בכמה ערים בארה"ב. ככל הנראה, המשמעות המעשית היא שמדובר בשינוי מהותי באופן שבו נעשה שימוש בטכנולוגיית מעקב רכבים - ממערכת המבוססת על חיפוש רכב ספציפי וידוע, לכלי שיכול להצביע על חשד כלפי נהגים על בסיס דפוסי נסיעה בלבד, גם כאשר אין נגדם כל חשד לביצוע עבירה.