עורך דין נקנס בניו מכסיקו על עדים מזויפים שהמציא ChatGPT בערעור על תיק רצח

בית המשפט העליון של מדינת ניו מכסיקו קנס עורך דין ב-5,000 דולר והרשיע אותו בביזיון בית משפט, לאחר שהגיש כתב ערעור שכלל עדויות שהומצאו על ידי ChatGPT. כך עולה מצו שפרסם בית המשפט ביום רביעי, ומדווחים עליו The Verge ו-Ars Technica.

עורך הדין סטיבן ארונס (Stephen Aarons), פרקליט פלילי בניו מכסיקו למעלה מ-40 שנה, יוצג בשם משפחתו של אוסקר רנה סנדובל (Oscar Renee Sandoval), שנגזר עליו מאסר עולם בפברואר 2025 לאחר שהורשע ברצח בת זוגו שירין אל-ג'יבורי (Shiereen Al-Jibury), אם ילדיהם המשותפים. ארונס הגיש בשמו ערעור על ההרשעה.

באוגוסט 2025 הגיש ארונס כתב ערעור שכלל, על פי צו בית המשפט, "עדות שקרית מעדים בדויים לחלוטין" — ביניהם שוטרים בשם מישל אמרילו וסאנצ'ז, וכן מנאל אל-ג'יבורי וטרזה מרקז, שאיש מהם לא היה קיים בפועל. כתב הטענות כלל גם עדות שקרית מדני סטנטון וליידה סטנטון בנוגע לאיומים שהראשון קיבל, ועדויות בדויות של מריה צ'אבס וטרזה מרקז לגבי הלבוש והמראה של היורה. לצד זאת תיאר כתב הערעור באופן שגוי גם תקדימים משפטיים אמיתיים.

לפי עדותו של ארונס בדיון שנערך ב-21 באוגוסט, הוא הזין ל-ChatGPT תמלול ממוחשב של המשפט ומסמכים נוספים מהתיק, וקיבל בתמורה את הציטוטים המומצאים. הוא ציין שהשתמש בגרסת ChatGPT המבוססת על מודל o3 של OpenAI, ואמר: "הנחתי שהוא מייצר סיכום 'חסין קליעים' של ההליך" — בהתבסס, לדבריו, על ההנחה שכלי AI מדויקים נוכח השימוש הנרחב בהם בתחומי המשפט והרפואה.

השופטת שנון בייקון תהתה בדיון כיצד ארונס לא היה מודע לסיכונים שבהסתמכות על AI: "עורך דין, אתה צופה בחדשות? מאזין לרדיו? קורא משהו על מה שקורה בעולם? כי הבעיה של עורכי דין שמסתמכים על הזיות של AI היא כותרת ראשית כמעט בכל יום", אמרה, לפי הדיווחים.

בית המשפט קבע כי ארונס "לא וידא את הטענות העובדתיות והסמכות המשפטית בתזכיר שנוצר בעזרת AI" לפני שהגיש אותו, וכי גם לא יידע את לקוחו על הכשל. הוא הופנה לוועדת משמעת, נאסר עליו להופיע בפני בית המשפט העליון עד תום ההליך המשמעתי, וכל כתבי הטענות שהגיש נמחקו מהתיק. בית המשפט הורה גם ללשכת הסנגוריה הציבורית למנות לסנדובל עורך דין חדש, וההליך יימשך בעונת 2026–2027 של בית המשפט. לדברי בית המשפט, ארונס "הפגין חוסר חרטה וחוסר דאגה ללקוחו" — בניגוד לתגובתו לרויטרס, שבה מסר כי הוא "מתחרט, אך מקווה שוועדת המשמעת תיקח בחשבון שמדובר בטעות בתום לב".

המקרה מצטרף לשורת אירועים דומים מהשנה האחרונה: שופט נזף בשני משרדי עורכי דין שהגישו תזכיר עם ציטוטים משפטיים שגויים ומטעים, ועורכי הדין של איש העסקים מייק לינדל נקנסו אף הם על ציטוטים ומקורות מומצאים מבינה מלאכותית.

המשמעות של המקרה חורגת מאירוע בודד: ככל הנראה מדובר באחד המקרים הבולטים ביותר עד כה שבו ערכאה עליונה, ולא שופט יחיד בערכאה נמוכה, נוקטת צעד משמעתי ישיר נגד עורך דין על תוצרי AI מזויפים בתיק פלילי חמור שבו נגזר עונש מאסר עולם. ההחלטה ממחישה שבתי המשפט מתייחסים לאימות עצמאי של תוכן שמפיק AI כאל חובה מקצועית בסיסית, לא כאל המלצה — וסביר שתשמש אזהרה נוספת לעורכי דין המסתמכים על כלים כאלה בלי בדיקה עצמאית של התוצאות.