אדם בלולאה

חוקרי אתיקה של AI: מנגנוני "האדם בלולאה" בסוכני AI עלולים לדחוק בפועל את האדם החוצה

במאמר שפורסם ב-ArXiv טוענים שלושה חוקרים בתחום האתיקה של AI שמנגנוני האישור האנושי בסוכני AI הופכים את המשתמש למי שרק לוחץ "אשר", בלי לבדוק באמת. לדבריהם, בטווח הארוך זה עלול לשחוק את היכולות שאנשים צריכים כדי לפקח על AI. הפתרון שהם מציעים: להכניס בכוונה "חיכוך" לעבודה עם הסוכן.