סאטיה נאדלה מצהיר שהוא "AGI-pilled" ומזהיר ממודל AI יחיד שישתלט על הכלכלה
מנכ"ל מיקרוסופט סאטיה נאדלה אמר לעיתונאים בכנס Ignite שהוא "AGI-pilled", והזהיר שאם מודל AI אחד יגיע למעמד של מונופול, "זה נגמר, לכולנו". לדבריו, מודל כזה יכול להפוך לחברת בריאות, לחברת פיננסים ואף "להשתלט על הממשלה". האזהרה משרתת גם את מיקרוסופט, שמוכרת לארגונים פלטפורמה לבחירה בין מודלים רבים.
מנכ"ל מיקרוסופט סאטיה נאדלה אמר שהוא "AGI-pilled" – כלומר השתכנע שבינה מלאכותית כללית (AGI) עשויה לשנות את מבנה הכלכלה והפוליטיקה – והזהיר שאם מודל AI אחד יגיע למעמד של מונופול, "זה נגמר, לכולנו". את הדברים אמר בשולחן עגול עם עיתונאים אחרי נאומו בכנס Microsoft Ignite ב-Chase Center בסן פרנסיסקו, כך דיווח עורך The Verge, נילאי פאטל, ב-17 בנובמבר.
"הוא יכול להשתלט על הממשלה"
הדברים נאמרו אחרי שעיתונאי אחר שאל את נאדלה על כך שאנתרופיק משיקה מוצרים נוספים בחבילת התוכנות המשרדיות שלה. במקום לדבר על תחרות מול Office, נאדלה דיבר באריכות על קריסה אפשרית של הכלכלה ועל קץ הדמוקרטיה.
"רוב האנשים חושבים על זה כתחרות בין חברות טכנולוגיה, וכמובן שזו תהיה תחרות כזאת", אמר. "אבל זכרו, למודל אין גבולות. הוא יהיה חברת בריאות. הוא יכול להיות חברת שירותים פיננסיים. הוא יכול להיות כל דבר שירצה. הוא יכול להשתלט על הממשלה". לחשוב על כך כעל מרוץ צר בין חברות טכנולוגיה, מי תגיע לטריליון הדולר הבא בשווי שוק, הוא לדבריו "אחת הדרכים המוזרות והצרות ביותר" להסתכל על הנושא.
נאדלה הטיל ספק גם בעתידה של החברה העסקית עצמה. "אם לאינטליגנציה יש אפקט רשת, מה העתיד של פירמה?", שאל. "אם המודל רואה כל דבר ולומד אותו, ובעצם כל ההון האנושי קורס להון של tokens" – יחידות הטקסט שמודלי שפה מעבדים – "מה התפקיד של פירמה ושל ההון האנושי שבה?"
מכאן עבר לפוליטיקה: "אף אחד, לפחות בדמוקרטיה, לא יכול אפילו לנצח בבחירות אם זה הולך לכיוון הזה, אם יש רק הון ואין עבודה. זו לא כלכלה". ובהמשך: "אם התפיסה המרקסיסטית, נגיד, היא שיש רק פירמה אחת, אז זה נגמר, נכון? לכולנו. לא רק לי. גם אתם תהיו איכשהו שלוחה של אנתרופיק".
לא חושב ש-Claude בעל תודעה
כשנשאל אם מודלים מתקדמים כמו Claude הם בעלי תודעה, השיב נאדלה: "אני לא חושב". הוא אמר שהוא מאמץ את עמדתו של מוסטפא סולימאן, מנכ"ל Microsoft AI, שלפיה חברות לא צריכות להעניק זכויות למודלים או להתייחס אליהם כאל בעלי מעמד מוסרי אפשרי – גישה שאנתרופיק דווקא נוקטת כעניין של עיקרון. לפי פאטל, סולימאן אמר לו בעבר שהגישה הזאת מסוכנת.
נאדלה עצמו נשמע נחרץ פחות: "זה ויכוח טוב. אני לא דוגמטי לגבי זה". הסוגיה החברתית-טכנולוגית החשובה ביותר בעיניו היא אחרת: איך מבטיחים שהכלכלה תפיץ את הטכנולוגיה הזאת באופן רחב.
האינטרס של מיקרוסופט
פאטל מזכיר שנאדלה קידם באותו כנס את כלי ה-AI של מיקרוסופט, שמבטיחים ללקוחות ארגוניים לבחור את המודל המשתלם ביותר לכל משימה, להריץ מודלים משלהם ולשלוט בנתונים שלהם. הרעיון, שנאדלה חזר אליו שוב ושוב בשיחה, הוא שהשוק ידרוש מודלים רבים ושליטה מקומית בנתונים כדי שהכוח לא יתרכז במקום אחד.
"אם אתם מאמינים שהעולם והכלכלה צריכים יותר מפירמה אחת או שתיים, אז מעצם ההגדרה צריכים להיות מודלים רבים כמספר הפירמות", אמר. המשמעות, ככל הנראה, היא שמיקרוסופט מציגה את עצמה כתשתית ניטרלית בין מודלים מתחרים, ושהאזהרה מפני מונופול של מודל יחיד היא בו בזמן השקפת עולם וטיעון מכירה. פאטל עצמו סיכם ביובש: לא כך מדברים בדרך כלל מנכ"לי טכנולוגיה על השקה של תוכנת גיליונות אלקטרוניים מתחרה.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות