כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
הנשיא דונלד טראמפ הודיע שהבית הלבן משיק את America.gov, צ'טבוט AI שנועד לעזור לאזרחים למצוא שירותים ומידע ממשלתיים. גוגל אישרה שהיא שותפה בהשקה ושהמודל Gemini שלה משמש בה. לצד ההבטחה לפשט את הבירוקרטיה, עולה שאלה מוכרת: מה קורה כשהמודל טועה?
סדרת ניסויים עם 3,132 משתתפים מצאה שעצם הזמינות של עצת AI כמעט מעלימה את הנכונות להודות בחוסר ידע. במקביל עלה הביטחון של המשתתפים, ושיעור התשובות הנכונות ירד לכשליש מזה של קבוצת הביקורת, כשהמודל עצמו טעה כמעט תמיד.
דוח מודיעיני אמריקאי שגוי, שנוצר בסיוע כלי AI, כמעט הוביל את ארה"ב לעצור ולעלות על ספינה סינית באזור המזרח התיכון — מהלך שלפי אחד המעורבים "כמעט התחיל מלחמה". על פי דיווח של CNN, בהסתמך על ארבעה מקורות המכירים את הפרשה, כפי שדווח בכתבה של אתר Ars Technica.
בית המשפט העליון של ניו מכסיקו קנס את עורך הדין סטיבן ארונס ב-5,000 דולר והרשיע אותו בביזיון, לאחר שהגיש כתב ערעור בתיק רצח שכלל עדויות של עדים שהומצאו לחלוטין על ידי ChatGPT. ארונס הודה שהזין תמלול של המשפט לצ'אטבוט מבלי לאמת את התוצאה, וכתב הטענות נמחק כולו מהתיק.
חוקרים מ-JPMorganChase מציעים שיטה בשם Calibrated Entropy Score (CES) שמזהה הזיות של מודלי שפה מתוך ניתוח סטטיסטי של התפלגות האנטרופיה בפלט המודל, במעבר יחיד ובלי גישה למשקלים הפנימיים. לפי המאמר, השיטה משיגה ביצועים דומים לשיטות יקרות בהרבה שדורשות דגימה חוזרת של המודל, אך מדובר במחקר שטרם עבר ביקורת עמיתים.