תלמידים בחטיבת ביניים בקנטקי קיבלו ביום הלימודים הראשון חומרי לימוד שהופקו באמצעות בינה מלאכותית, ובהם שגיאות עובדתיות בולטות - בהן מפה שסימנה את דקוטה הצפונית כ'North Dahota' ואת אוקלהומה כ'Olkchoma'. המקרה, שתועד ונדון ברשתות החברתיות, ממחיש את הסיכון שבהטמעת AI בחומרי הוראה ללא בדיקת עריכה אנושית לפני שהם מגיעים לתלמידים.
תלמידים בבית ספר לחטיבת ביניים במדינת קנטקי שבארצות הברית קיבלו ביום הלימודים הראשון חומרי לימוד שהופקו באמצעות בינה מלאכותית - ולפי דיווחים שהופצו ברשת, החומרים היו רצופים בשגיאות עובדתיות. הדוגמה הבולטת ביותר שעלתה היא מפה שבה דקוטה הצפונית סומנה בכינוי השגוי "North Dahota" (במקום North Dakota), ואוקלהומה סומנה כ"Olkchoma" (במקום Oklahoma). המקרה תועד ונדון בפורום r/singularity ברשת Reddit, שם המשתמשים שיתפו תמונות של החומרים שחולקו לתלמידים.
פרטים נוספים על המקרה - זהות בית הספר, המקצוע שבו נעשה שימוש בחומרים, כלי ה-AI הספציפי שהופיק אותם, ותגובת הנהלת בית הספר - לא צוינו במקור הזמין, ולכן אין לקבוע אותם כעובדה.
השגיאות מהסוג שתועד כאן מוכרות בעולם הבינה המלאכותית בשם "הזיות" (hallucinations) - מצב שבו מודל שפה מייצר מידע שגוי בביטחון מלא, בלי שום סימן חיצוני לכך שמדובר בטעות. במקרה של שמות מדינות בארה"ב, מדובר במידע פשוט ונגיש שאמור להיות קל לאימות, מה שהופך את הטעות לבולטת במיוחד עבור כל מי שרואה את החומר.
התופעה ידועה כבר כמה שנים בהקשרים כמו כתיבה משפטית, עיתונאות ותוכן שיווקי, שבהם נתפסו מקרים של הפניות מומצאות או עובדות שגויות שהוצגו כוודאיות. המקרה בקנטקי מעביר את אותה בעיה לזירה שבה הרגישות גבוהה יותר: כיתת לימוד, כאשר הנמענים הם ילדים שלרוב אין להם את הכלים לזהות בעצמם שהמידע שגוי.
האירוע ממחיש נקודת תורפה מרכזית בשילוב כלי AI בהוראה: כאשר תוכן שנוצר על ידי מודל שפה מגיע לתלמידים בלי בדיקת עריכה אנושית סופית, כל שגיאה שהמודל "ממציא" עוברת הלאה כעובדה. ככל הנראה, מדובר במקרה שבו מורה או גורם בבית הספר השתמש בכלי AI להכנת חומרי לימוד וחילק אותם הלאה מבלי לעבור עליהם שורה אחר שורה.
המשמעות הרחבה יותר, כפי שהיא נראית ממקרה זה, היא שהטמעת AI בחינוך דורשת שכבת בקרה אנושית קבועה - לא רק בשלב הכנת התוכן, אלא גם כבדיקה אחרונה לפני שהחומר יוצא לשימוש בפועל. בלי שלב כזה, גם טעויות שהיו אמורות להיות קלות לאיתור, כמו איות שמות של מדינות מוכרות, עלולות להגיע ישירות לתלמידים.