גוגל מציגה את SynthID Bio: סימן מים לזיהוי חלבונים שעוצבו בבינה מלאכותית

גוגל DeepMind הכריזה על SynthID Bio, מערכת שמטמיעה סימן מים (watermark) בחלבונים שעוצבו בעזרת בינה מלאכותית ומאפשרת לזהות אותם אחר כך. לפי הדיווח ב-Ars Technica, המערכת נועדה לסייע בתחום הביטחון הביולוגי (biosecurity), והיא עובדת עם כלי AI פופולרי לעיצוב חלבונים.

מה זה סימן מים לחלבון?

השם SynthID לא חדש. זה המותג שגוגל משתמשת בו כבר כמה שנים לסימון תוכן שנוצר בבינה מלאכותית: תמונות, טקסט, אודיו ווידאו. הרעיון הוא להטמיע בתוצר "חתימה" שהעין האנושית לא קולטת, אבל תוכנה ייעודית יודעת לאתר, וכך אפשר לדעת בדיעבד שהתוצר יצא ממערכת AI.

SynthID Bio לוקח את הרעיון הזה מעולם המדיה אל הביולוגיה. חלבון מוגדר ברצף של חומצות אמינו, ומודלים לעיצוב חלבונים מציעים רצפים חדשים שלא קיימים בטבע, למשל לפיתוח תרופות, אנזימים או חומרים. הכוונה, ככל הנראה, היא להשאיר ברצף המעוצב חתימה שאפשר לאתר, בלי לפגוע בתפקוד שלשמו עוצב החלבון. הדיווחים הראשונים לא פירטו את אופן ההטמעה, את מידת העמידות שלה לשינויים ברצף או את רמת הדיוק של הזיהוי. לפי דיווחים ברשת שעדיין לא אומתו, המאמר הטכני על המערכת פורסם בכתב העת Nature.

למה זה נוגע לביטחון

עיצוב חלבונים בבינה מלאכותית הפך בשנים האחרונות לאחד מתחומי המחקר הפעילים ביותר בביולוגיה. אבל אותם כלים שמאיצים פיתוח של תרופות וחיסונים עלולים, לפחות תיאורטית, לשמש גם לעיצוב מולקולות מזיקות. זה החשש שהביא ממשלות, חוקרים וחברות לדבר על "ביטחון ביולוגי" בהקשר של AI.

כאן נכנס סימן המים. אם אפשר לזהות שחלבון מסוים, או רצף DNA שמקודד אותו, עוצב בכלי AI מסוים, קל יותר לעקוב אחרי מקורו. גורמים כמו חברות שמסנתזות DNA לפי הזמנה, מעבדות וגופי פיקוח יוכלו ככל הנראה להשתמש בזיהוי כזה ככלי נוסף בבדיקות שהם כבר עורכים.

זה שהמערכת עובדת עם כלי עיצוב פופולרי ולא רק עם מודלים פנימיים של גוגל חשוב במיוחד. סימן מים מועיל רק אם הוא נמצא במקום שבו נוצרים הרצפים בפועל.

המגבלות

כדאי לסייג. בעולם הטקסט והתמונות, סימני מים של AI כבר עוררו ויכוח על היכולת לעקוף אותם, וקשה להניח שהמצב בביולוגיה יהיה שונה מהותית. גורם זדוני שמשתמש בכלי פתוח ומשנה אותו, או שעורך את הרצף אחרי העיצוב, עשוי להצליח להסיר את החתימה. כמו כן, סימן מים מזהה רק חלבונים שעוצבו בכלים שמטמיעים אותו.

המשמעות, ככל הנראה, היא ש-SynthID Bio לא פותר את בעיית הביטחון הביולוגי, אבל מוסיף לה שכבה: דרך לסמן את השימוש הלגיטימי והמתועד, כך שמה שחסר חתימה יבלוט יותר. מידת האפקטיביות תלויה בשאלה כמה מפתחי כלים ומעבדות יאמצו את הסטנדרט, ובמה שיעלה מבדיקה עצמאית של המנגנון.