רחפן נפץ רוסי שהתרסק בחודש שעבר לתוך תחנת דלק בזפוריז'יה הרג שלושה אזרחים, בהם סטודנטית בת 19 — ובניגוד למקרים קודמים, את המטרה בחר לבד מסך AI שהותקן על הרחפן, ללא מפעיל אנושי. בדיקת השרידים חשפה שבב Jetson Orin של אנבידיה, מוצר צרכני זול שהחברה מכחישה כל מכירה ישירה שלו לרוסיה.
רחפן נפץ רוסי שהתרסק בחודש שעבר לתוך תחנת דלק בעיר זפוריז'יה שבאוקראינה הרג שלושה אזרחים, בהם סטודנטית בת 19. לפי בדיקה שערכו מומחים והצבא האוקראיני לשרידי הרחפן, ודיווח ניו יורק טיימס שעליו מתבסס גיקטיים, מדובר במקרה הראשון מסוגו: הרחפן לא נשלט על ידי מפעיל אנושי, אלא הונחה על ידי מערכת AI שקיבלה בעצמה את ההחלטה על המטרה הסופית.
על שרידי הרחפן התגלה שבב Jetson Orin של אנבידיה — רכיב נגיש וזול יחסית, המשמש בדרך כלל לצורכי ראייה ממוחשבת ו-AI על גבי מכשירי קצה. מכיוון שהשבב לא היה מוצפן, הוא סיפק לחוקרים הצצה נדירה אל תוך הטכנולוגיה: עליו נמצאו תמונות טופוגרפיות ששימשו לניווט ויזואלי ללא צורך בחיבור לרשת או אנטנות, וכן קוד שהגדיר במדויק אילו אובייקטים על המערכת לזהות.
בחברת אנבידיה אישרו כי מדובר במוצר שלהם, אך הבהירו שזהו רכיב צרכני המיועד לסטודנטים ולמפתחים, ושהחברה אינה מוכרת שבבים לרוסיה. ככל הנראה הרכיבים הגיעו למדינה דרך צד שלישי.
לפי הדיווח, הרחפן תוכנת מראש להגיע לאזור תחנת הדלק. כשהתקרב, הפעיל את מערכת הראייה הממוחשבת שלו באופן אוטונומי, ומערכת ה-AI בחרה בעצמה את המטרה המדויקת — ככל הנראה אחד ממכלי הדלק באזור. לאחר קבלת ההחלטה, ללא בן אדם בלולאת קבלת ההחלטות, ניווט הרחפן את עצמו מטה והתפוצץ על המטרה שבחר.
עד כה השתמשו שני הצדדים בעימות בין רוסיה לאוקראינה בבינה מלאכותית ברחפנים בעיקר בשלב הסופי של התקיפה: מפעיל אנושי בחר את המטרה, והמערכת ביצעה רק נעילה וניווט של כלי הטיס אליה. המעבר למערכת שגם בוחרת את המטרה לבד מוציא בפועל את בני האדם משרשרת קבלת ההחלטות, ומעלה שאלות קשות על אחריות ופיקוח בזמן לחימה.
קולונל סריי מינאייב, מפקד הגנה אווירית אוקראיני, אמר לניו יורק טיימס שבעוד כמה שנים נחיה במציאות שמזכירה את הסרט "שליחות קטלנית": "זה לא צחוק. מכונות כבר מקבלות לבד החלטות על תקיפה."
עם זאת, גם אוקראינה אינה נשארת מאחור — היא החלה לאחרונה לבחון בעצמה מערכות תקיפה אוטונומיות לחלוטין. הצעד המקביל משני צדי החזית מעיד ככל הנראה על תחילתו של מרוץ חימוש טכנולוגי מסוג חדש, שבו קצב פיתוח מערכות ה-AI הצבאיות עלול להקדים את היכולת של הצדדים, ושל הקהילה הבינלאומית, להסדיר את השימוש בהן.