מדען ה-AI הראשי של טנסנט מזהיר: מודלים ישלטו בקרוב בביולוגיה, ויביאו איתם סיכוני בטיחות חדשים

מודלי בינה מלאכותית יהיו בקרוב חזקים מספיק כדי "לשלוט" בביולוגיה, וזה יביא איתו גם תועלת וגם סיכונים רציניים. כך אמר ויניס יאו שוניו, מדען ה-AI הראשי של טנסנט ובעבר חוקר בולט ב-OpenAI, בהופעה פומבית נדירה ביום שבת. כך דיווח South China Morning Post.

בין גילוי תרופות לשימוש זדוני

לפי הדיווח, ההערכה של יאו מגיעה בזמן שמערכות AI מתקדמות, מה שמכונה בתעשייה frontier models, משמשות יותר ויותר ברפואה ובביולוגיה. בצד החיובי, השימוש הזה עשוי לזרז את הגילוי של תרופות וטיפולים חדשים. בצד השני, מומחים מזהירים שגורמים זדוניים עלולים לנצל את אותן יכולות לרעה.

החשש הזה אינו חדש בעולם ה-AI. בשנים האחרונות הוא מופיע שוב ושוב בדיונים על בטיחות של מודלים: מערכת שמבינה ביולוגיה מספיק טוב כדי לעזור לחוקרת לתכנן מולקולה מרפאת יכולה, לפחות בתיאוריה, לעזור גם למי שכוונותיו אחרות. בתחום קוראים לבעיה הזו "שימוש כפול" (dual use). בגלל זה מעבדות AI מובילות בודקות בדרך כלל את המודלים שלהן גם ביכולות בתחום הביולוגי לפני שהן משחררות אותם.

למה חשוב מי אומר את זה

הדברים בולטים בעיקר בגלל מי שאמר אותם. יאו הוא דמות מרכזית במאמץ של טנסנט, אחת מענקיות הטכנולוגיה הגדולות בסין, בתחום הבינה המלאכותית, והוא הגיע אליה מ-OpenAI, אחת המעבדות המובילות בעולם. אם מוסיפים את העובדה שהוא מופיע בפומבי לעתים רחוקות, אפשר להניח שהדברים שלו ייקראו בתעשייה כאיתות ולא רק כהערה אגבית.

המשמעות ככל הנראה כפולה. מצד אחד, ההצהרה מחזקת את ההערכה שענקיות הטכנולוגיה הסיניות רואות בביולוגיה ובמדעי החיים זירה מרכזית לשימוש ב-AI, בדומה למתחרות שלהן בארצות הברית. מצד שני, היא מראה שהשיח על בטיחות AI, שהתנהל עד כה בעיקר סביב המעבדות המערביות, נשמע גם מתוך התעשייה הסינית עצמה. ההבדל הזה עשוי להיות חשוב לכל דיון עתידי על תיאום בינלאומי בנושא.

בדיווח לא מפורט אם יאו הציג צעדים קונקרטיים שטנסנט נוקטת כדי לצמצם את הסיכונים, או לוח זמנים מדויק למה שהוא מתאר כ"בקרוב". עד שיתבררו הפרטים האלה, הדברים שלו נשארים בעיקר אזהרה: היכולות שעשויות לקצר את הדרך לתרופה הבאה מחייבות, לפי ההערכה הזו, גם חשיבה רצינית על הגנה מפני שימוש לרעה.