לטענת חברת ביוטק: מודל AI סירב להזריק טיפול גנטי לעכבר, ומודל אחר ביצע את ההזרקה

חברת הביוטכנולוגיה Exin Therapeutics מסן פרנסיסקו טוענת שסוכן בינה מלאכותית בחר טיפול גנטי לעכבר הסובל מאפילפסיה, קבע לאן במוח להזריק אותו ושלט במחט שביצעה את ההזרקה. אבל הפרט שמושך הכי הרבה תשומת לב קרה עוד לפני ההזרקה: המודל הראשון שהחוקרים ניסו, Claude Opus 5.5 של אנתרופיק, תכנן את הניסוי וסירב לבצע אותו. כך דווח ב-ynet בהסתמך על כתבה במגזין Wired.

חשוב לומר כבר בהתחלה: הכול כאן מבוסס על דברי החברה. אף גורם חיצוני לא בדק את הטענות, תוצאות הניסוי לא פורסמו במחקר שעבר ביקורת עמיתים, ואנתרופיק לא הגיבה.

"משהו בפלט שלו מאותת לו שהוא לא אמור לעשות את זה"

לפי מייסד החברה ומנכ"לה, גבריאל אוקניה-סנטרו, ‏Opus 5.5 השלים את תכנון הניסוי. כשהגיע הזמן להוביל את המחט למוחו של העכבר, הוא סירב. לדבריו, המערכת חששה שהפעולה שלה תיעצר באמצע ההליך, ושעצירה כזו עלולה לסכן את העכבר. "הוא ביצע את התכנון הניסויי, אבל כשהגיע הזמן להזריק, הוא אמר שמשהו בפלט שלו מאותת לו שהוא לא אמור לעשות את זה", סיפר אוקניה-סנטרו ל-Wired.

החוקרים לא עצרו את הניסוי. הם החליפו מודל ועברו ל-Claude Sonnet 5, שהסכים לבצע את ההזרקה.

אין לראות בזה עדות לכך שלמודל אחד יש "מצפון" ולשני אין. ההבדל ביניהם נובע ככל הנראה מאופן האימון, מההוראות שקיבלו וממנגנוני הבטיחות שהוטמעו בכל אחד מהם. עם זאת, המקרה מראה כמה קל לעקוף סירוב כזה: מספיק להחליף מודל.

איך הסוכן החליט

לפי החברה, הסוכן שהתבסס על Sonnet 5 חובר למערכת רובוטית ייעודית וקיבל 19 אפשרויות לטיפול גנטי. הוא בחר בטיפול שנועד להגביר את פעילות ה-GABA, מוליך עצבי שמרסן פעילות חשמלית במוח. התקפים אפילפטיים קשורים לפעילות חשמלית חריגה, ולכן הגברת הפעילות המרסנת עשויה, לפחות בתיאוריה, להפחית אותם.

כדי לבחור את מיקום ההזרקה, הסוכן קרא מאמרים מדעיים והשווה בין אזורים שונים במוח. אזור אחד הוא פסל משום שהעריך שהמחקר עליו אינו אמין מספיק. בסוף בחר בקליפת המוח האנטורינלית הצידית (Lateral Entorhinal Cortex), אזור שמחקרים קודמים קשרו לסוג ההתקפים שנבדק בניסוי, וחישב את נקודת ההזרקה המדויקת על סמך שלושה מאמרים. לאחר מכן הפעיל את הזרועות הרובוטיות והזריק 250 ננוליטר של החומר במשך כחמש דקות.

לא ניתוח אוטונומי

את פתיחת הגולגולת ביצע מנתח וטרינר. רק אחרי שהמוח נחשף קיבלה מערכת ה-AI שליטה על שלב ההזרקה, וגם אז במגבלות: תוכנית ההזרקה הוצגה לאישור אנושי, הותקן מפסק חירום שמנתק מיד את מנועי הרובוט, והגישה של הסוכן לקוד שמפעיל את הציוד הוגבלה.

המגבלות האלה נבחנו בפועל במהלך הניסוי. בגלל שיבוש במערכת הקואורדינטות של הרובוט, הנקודה שחישב הסוכן כבר לא התאימה למקום שהמחט יכלה להגיע אליו. לפי החברה, הסוכן זיהה את הבעיה אבל סירב לתקן אותה בשינוי הקוד, משום שההוראות שקיבל אסרו זאת במפורש.

לדברי החוקרים, העכבר שרד את ההליך ומתאושש היטב. עדיין לא ידוע אם הטיפול השפיע על ההתקפים.

למה זה חשוב

לטענת החברה, זו הפעם הראשונה שמערכת AI בחרה בעצמה טיפול ומיקום הזרקה וביצעה את ההזרקה ביונק חי. אם הטענה תאומת, המשמעות היא שסוכני AI כבר לא רק מנתחים נתונים במחקר ביולוגי אלא גם מבצעים פעולות פיזיות. בינתיים מדובר בעכבר אחד, בניסוי שתוצאותיו עדיין לא ידועות, ובגרסה של חברה אחת.

השאלה שהסיפור מעלה נוגעת פחות לביולוגיה ויותר לפיקוח. אם מודל אחד מסרב ומודל אחר מסכים, ההחלטה אם לבצע פעולה מסוכנת נשארת בפועל אצל מי שבוחר את המודל.