ביל גייטס: היערכו לכ-20 שנה של שיבוש סוער בעקבות ה-AI
בראיון לפודקאסט Decoder של The Verge אומר מייסד מיקרוסופט, ביל גייטס, שצריך להיערך לכשני עשורים של שיבוש בעקבות הבינה המלאכותית. לדבריו, התקופה עלולה להיות כואבת עד כדי פיצול החברה לשני מחנות. הוא גם מעריך שהמענה של הממשל והתעשייה עד עכשיו אינו מספיק.
ביל גייטס, ממייסדי מיקרוסופט ויו"ר קרן גייטס, אומר שהשיבוש שהבינה המלאכותית תביא לא יחלוף בתוך שנה או שנתיים. לדבריו, צריך להיערך לכעשרים שנה של טלטלה. הדברים נאמרו בראיון ארוך לנילאיי פאטל, העורך הראשי של The Verge ומגיש הפודקאסט Decoder. גייטס הוסיף שהתקופה הזו עלולה להיות כואבת עד כדי כך שתפצל את החברה לשניים: מצד אחד אנשים שמרגישים בנוח לחיות קרוב לחזית הטכנולוגית, ומצד שני אנשים שדוחים אותה.
מאופטימיות לאזהרה
גייטס נחשב במשך שנים לאחד הקולות האופטימיים בעולם הטכנולוגיה. פאטל הזכיר לו בראיון ציטוט שלו מלפני כמה שנים: "אני מאמין שה-AI הוא דבר מועיל, רק צריך לעצב אותו בדרך הנכונה". גייטס אמר שהוא עדיין מסכים עם הדברים, אבל הדגיש שקצב התגובה לא עומד בקצב שבו האתגר מתפתח.
"אני מודאג מאוד מכך שהדברים הרעים לא ימוזערו, ושהרבה דברים טובים עלולים להגיע די לאט אם לא ננהל את זה נכון", אמר.
השינוי בטון שלו לא התחיל בראיון הזה. בסוף אוגוסט פרסם גייטס מאמר בשם "The turbulent AI era is here. The choices we make now are critical", ובו כתב ש"גם בנסיבות הטובות ביותר, המעבר לעידן ה-AI החדש יהיה אחת התקופות הסוערות ביותר בהיסטוריה האנושית". מאז הוא מופיע בראיונות רבים. בראיונות האלה כינה את ה-AI "הדבר המסוכן ביותר שבני אדם התקרבו אליו אי פעם", ואמר שהוא "גורם לנשק גרעיני להיראות כמו כלום". The Verge מסכם את עמדתו כך: גייטס אינו "doomer", כלומר אינו מאלה שצופים שה-AI יביא לאסון בלתי נמנע, אבל הוא רואה בטכנולוגיה "הנשק המסוכן ביותר בכל הזמנים".
מה השתנה בשנה האחרונה
כשנשאל מה גרם לו לחוש דחיפות, גייטס הצביע על ההתקדמות של השנה האחרונה, שאותה תיאר כ"די מדהימה". הוא מנה כמה יכולות: כתיבת קוד ואיתור פרצות סייבר, הסקת מסקנות בתחום הביולוגיה, יצירת קשרים עם ילדים ועם אנשים אחרים, והיכולת לשבש את שוק העבודה. "העוצמה העצומה שקיימת כבר היום פירושה שכל אחד מהדברים האלה יקרה, והחברה צריכה להיות מוכנה", אמר.
לפי The Verge, גייטס אינו סבור שהמדיניות הנוכחית של הבית הלבן מספיקה כדי להתמודד עם האיום. הוא גם רואה בעייתיות בהיעדר מאמץ מתואם מצד תעשיית ה-AI עצמה. לדבריו, ה-AI הוא אוסף רחב של מודלים, חלקם open source (קוד פתוח שכל אחד יכול להוריד ולהריץ) וחלקם קנייניים. מעליהם יש שתי שכבות נוספות: החברות שבונות מוצרים על בסיס המודלים, ומנהלי החברות האלה.
בהמשך הראיון עסקו השניים בשאלות ה-alignment, כלומר איך מבטיחים שמערכות AI יפעלו בהתאם לערכים ולאינטרסים של בני אדם. פאטל שאל איך אפשר לאכוף פתרון כזה גם על מודלים פתוחים ולא רק על מודלים סגורים. הם דיברו גם על ההשלכות על שוק העבודה, על הניהיליזם של הדורות הצעירים כלפי קידמה טכנולוגית, ועל הסיבות שבכל זאת מאפשרות תקווה.
למה זה חשוב
החשיבות של התחזית נובעת בעיקר מטווח הזמן שהיא מציבה. רוב הוויכוח הציבורי על AI עוסק בהשקה הבאה או ברבעון הבא. גייטס, לעומת זאת, מדבר על תהליך שיימשך דור שלם. המשמעות היא ככל הנראה שההיערכות שהוא קורא לה, בין אם ברגולציה, בהכשרה מחדש של עובדים או בבניית כלים טכנולוגיים לבקרה, אינה מבצע חד-פעמי אלא מדיניות לטווח ארוך. אזהרתו מפני פיצול חברתי מעלה גם את האפשרות שהפער החשוב בעידן ה-AI לא יהיה רק בין מדינות או חברות, אלא בין אנשים שמאמצים את הטכנולוגיה לבין אנשים שבוחרים להתרחק ממנה.
כשהאזהרה מגיעה מאדם שבנה את אחת מחברות התוכנה הגדולות בעולם, וקידם במשך שנים את הטכנולוגיה כמנוע לשיפור העולם, קשה לבטל אותה כחשש של מי שאינו מכיר את התחום.