ביל גייטס: ה-AI עלול להוביל למגפה חמורה מהקורונה

ביל גייטס, ממייסדי מיקרוסופט, מזהיר כי מערכות AI מתקדמות עלולות לאפשר לגורמים זדוניים לפתח נשק ביולוגי ולנצל פרצות אבטחה במערכות מחשוב. לדבריו, הנזק מאירוע ביולוגי שיתאפשר בסיוע בינה מלאכותית עלול להיות חמור משמעותית מזה של מגפת הקורונה. את הדברים אמר בנאום בכנס Future of AI של ה"פייננשל טיימס" בלונדון, קצת יותר מחודש אחרי אזהרה קודמת שלו. חשוב לדייק: זו אזהרה מפני תרחיש אפשרי, ולא דיווח על אירוע שקרה.

גייטס, שמקדיש בשנים האחרונות חלק ניכר מפעילותו לבריאות הציבור ולמאבק במחלות, הזהיר כבר ב-2015 שהעולם אינו ערוך למגפה עולמית. כעת הוא חושש שה-AI יהפוך את האיום למורכב ומסוכן יותר.

מה בדיוק החשש

כלי AI כבר משמשים למחקר רפואי, לפענוח מבנים של חלבונים ולפיתוח תרופות, ואותן יכולות עלולות לשרת גם מי שמבקשים לגרום נזק. החשש הוא שמודלים חזקים יקלו על אנשים בעלי ידע מוגבל יחסית להשיג מידע מקצועי ולהתגבר על חלק מהקשיים במחקר ביולוגי מורכב.

לפי ynet, יש להבחין בין החשש ליכולות שהוכחו בפועל. מערכות AI אינן מסוגלות כיום ליצור מגפה באופן עצמאי, ופיתוח נשק ביולוגי עדיין דורש מעבדה, ציוד, מומחיות ותהליכים מעשיים. הסיכון, אם כן, הוא בהפחתת חלק מהחסמים, כך שיותר גורמים יוכלו לנסות.

גייטס מודאג במיוחד ממודלים פתוחים, כאלה שמשקלי המודל שלהם (הפרמטרים שקובעים את התנהגותו) זמינים להורדה ולשינוי. במקרים כאלה ניתן לעיתים להסיר מנגנוני בטיחות, וקשה יותר לפקח על השימוש במודל אחרי שהופץ. עם זאת, גם במודלים סגורים אפשר לעקוף מנגנוני הגנה, והפתיחות מאפשרת לחוקרים לבחון את הטכנולוגיה ולאתר בה חולשות.

הביקורת על וושינגטון

החלק הפוליטי בנאום מכוון לממשל טראמפ, שלטענת גייטס מעכב את המאמצים הבינלאומיים לקבוע כללי פיקוח מחייבים. לדבריו, רגולציה עצמית של חברות הטכנולוגיה אינה מספיקה כשחברות רבות מתחרות זו בזו. "ברגע שמתווספות חברות נוספות, הדרך היחידה לפתור את הבעיה עוברת לידי הממשלה", אמר. "הפתרון היחיד הוא הממשלה".

מאחר שרבות מחברות ה-AI המובילות פועלות בארצות הברית, גייטס סבור שבלי מעורבות אמריקנית כמעט בלתי אפשרי לגבש פיקוח עולמי אפקטיבי. "אין הרבה ערך לפעולה אם ארצות הברית אינה חלק ממנה. לכן אנחנו נמצאים במבוי סתום", אמר.

מה הוא מציע

גייטס קרא לממשלות לקבוע תקני בטיחות מחייבים למודלים מתקדמים, שיכללו ניטור, בדיקות אבטחה וביקורות. עוד קרא לחזק את ההגנה על מערכות מחשוב ותשתיות חיוניות, מחשש שמודלים בעלי יכולות תכנות מתקדמות יסייעו לתוקפים לאתר פרצות ולנצל אותן מהר יותר ובהיקף רחב יותר. הוא הציע גם להרחיב את מערכות הניטור הבריאותיות.

למה זה חשוב

המשמעות של דברי גייטס היא ככל הנראה העברת הדיון מהשאלה מה הטכנולוגיה יכולה לעשות לשאלה מי אחראי לפקח עליה. האזהרה אינה מוכיחה שהתרחיש קרוב, אבל היא מגיעה מדמות שעוסקת שנים בהיערכות למגפות, ומחדדת מחלוקת פתוחה: האם אפשר לסמוך על התעשייה שתגביל את עצמה, ומה יקרה לפיקוח הבינלאומי אם ארצות הברית תישאר מחוצה לו.