מחקר: עשר דקות של הסתמכות על AI עלולות לפגוע ביכולת להתמיד במשימות קשות

מחקר חדש בהשתתפות חוקר מ-UC Berkeley מצא שגם עשר דקות של הסתמכות על כלי בינה מלאכותית עלולות לפגוע ביכולת להתמקד ולהתמיד במשימות קשות. כך לפחות לפי הודעת האוניברסיטה. גרסה מוקדמת של המחקר עוררה עניין כבר באביב. בשבוע שעבר הציג הצוות את הגרסה המעודכנת, שעברה ביקורת עמיתים, בכנס Conference on Language Modeling.

איך נערך הניסוי

החוקרים גייסו ברשת 1,222 משתתפים ופיצלו אותם לסדרה של ניסויים מבוקרים עם הקצאה אקראית. בניסוי הראשון השתתפו 354 איש, והם התבקשו לפתור 15 תרגילים בסיסיים בשברים. קבוצה אחת פתרה לבד. לקבוצה השנייה היה ChatGPT פתוח בצד המסך, והיא יכלה להיעזר בו ואפילו לבקש ממנו את התשובה.

בהתחלה הקבוצה עם ה-AI פתרה בדיוק רב יותר. אחרי 12 תרגילים החוקרים לקחו ממנה את הכלי, ולפי ההודעה הדיוק שלה ירד כמעט מיד. בניסוי השני, עם 667 משתתפים, התקבלה תמונה דומה. משתמשי ה-AI טעו או ויתרו לגמרי כשהסיוע נלקח מהם, ואילו הקבוצה שעבדה בלי AI המשיכה במשימה והצליחה יותר בסופה. בניסוי שלישי, עם 201 משתתפים, נבדקה משימת הבנת הנקרא בסגנון מבחן ה-SAT האמריקאי. גם שם ההתמדה והדיוק ירדו אחרי שהכלי הוסר.

"כמעט אי אפשר לבקש סיפור ברור יותר", אמר בריאן כריסטיאן, עמית מחקר במרכז לבינה מלאכותית תואמת-אדם (Center for Human-Compatible AI) בברקלי. כריסטיאן כתב את הספר The Alignment Problem, שיצא ב-2020. "זה ממצא בולט, אבל במובן מסוים הוא מספק תחמושת לסיפור שרבים מאיתנו מרגישים בבטן", הוסיף. "גם אני חווה את זה".

מה כדאי לקחת בזהירות

ההודעה לעיתונות היא של האוניברסיטה עצמה, והיא לא מפרטת את גודל ההשפעה, את הניתוח הסטטיסטי ואת אופן מדידת "עשר הדקות" שבכותרת. כמו כן, המשתתפים גויסו ברשת והמשימות היו קצרות ופשוטות יחסית. לכן לא ברור עד כמה אפשר להשליך מהממצאים על למידה ממושכת או על עבודה מקצועית. ככל הנראה המחקר מעיד בעיקר על אפקט מיידי, ולא בהכרח על פגיעה מתמשכת ביכולות הקוגניטיביות.

למה זה חשוב

החוקרים מציעים הסבר אפשרי: כש-AI מחזיר תשובה תוך שניות, מתרגלים למהירות הזו, וכל דבר שלוקח יותר זמן מתחיל להרגיש לא יעיל. בנוסף, ההסתמכות על AI מוותרת על מה שהצוות מכנה "productive struggle", כלומר מאבק מועיל. זה המאמץ שבזכותו אנשים מגלים את החוזקות ואת תחומי העניין שלהם.

"בנינו את המערכות האלה כדי שיעזרו, אבל האם הן עוזרות לנו בדרך שבאמת עוזרת לנו?" שאל כריסטיאן. לדבריו, תשובות של צ'טבוטים יכולות לעבוד כברירת מחדל כמו מורה פרטי שמסביר, במקום להגיש פתרון מוכן. "אנחנו צריכים לחתור לעתיד שבו היכולות האנושיות מועצמות ככל האפשר, ולא מוחלפות", אמר.

לצוות המחקר היו שותפים גם חוקרים מ-Carnegie Mellon, מ-MIT, מאוניברסיטת אוקספורד ומ-UCLA. הממצאים המוקדמים סוקרו ב-WIRED וב-Psychology Today, וה-New York Times פרסם לאחרונה כתבה על המאמר ועל מחקרים דומים. משמעות הדבר עבור מערכת החינוך ועבור משתמשים בכלל היא ככל הנראה שאלה פשוטה: לא רק אם להשתמש ב-AI, אלא איך.