קרפאתי: העולם החיצון ראה רק את התצוגה המקדימה של יכולות ה-AI
אנדריי קרפאתי, ממייסדי OpenAI וכיום חוקר באנתרופיק, טוען שהפער בהבנת יכולות ה-AI הולך וגדל. לפי הערכתו, כ-75% מאוכלוסיית העולם כמעט לא נגעו במודלי שפה. רק כ-5,000 אנשים, גם זו הערכה שלו, נחשפים למערכות החזית הפנימיות, שבהן, לדבריו, נחילים של אלפי סוכנים עובדים יחד במשך שבועות.
רוב האנושות עדיין לא באמת פגשה בינה מלאכותית, ומי שכן פגש רואה ככל הנראה רק גרסה חלקית שלה. כך טוען אנדריי קרפאתי, ממייסדי OpenAI וכיום חוקר באנתרופיק, בפוסט שבו הוא מתאר פער שהולך ומתרחב בין הציבור הרחב לבין קומץ אנשים במעבדות המובילות. "העולם החיצון ראה את התצוגה המקדימה", הוא כותב.
ארבע שכבות של חשיפה
לפי הדיווח באתר The Decoder, קרפאתי מחלק את משתמשי מודלי השפה הגדולים (LLM) לארבע שכבות:
- כשישה מיליארד בני אדם, כ-75% מאוכלוסיית העולם, כמעט לא באו במגע עם LLM בכלל.
- מיליארד עד שני מיליארד משתמשים מזדמנים בגרסאות החינמיות של מוצרים בסגנון ChatGPT. לדבריו, הם מתייחסים אליהם "קצת כמו לחיפוש גוגל משופר, לעוזר כתיבה וכדומה". לשכבה הזו משתייכים גם אנשי מקצוע רבים מחוץ לתחומי המתמטיקה והקוד, למשל מנהלים בכירים, שמבלים את רוב זמנם בשיחות עם אנשים אחרים. "גם אם הם מבינים אינטלקטואלית מה קורה, זה עדיין מיד שנייה וקצת מופשט", כותב קרפאתי.
- כ-20 מיליון איש, כ-0.2% מאוכלוסיית העולם, הם משתמשים מקצועיים במודלי חזית בתחומי המתמטיקה והתכנות. הם רואים במו עיניהם ש"פרויקטים גדולים ומורכבים שלקחו להם שבועות או חודשים יכולים עכשיו להסתיים בידי סוכנים בעזרת פרומפט אחד". קרפאתי מונה דוגמאות כמו בניית אפליקציות, העתקתן, תרגומן לשפת תכנות אחרת ופירוק שלהן מקבצים בינאריים (decompiling).
- כ-5,000 איש בלבד, כ-0.00006% מאוכלוסיית העולם, ניגשים למערכות החזית הפנימיות של המעבדות.
מה רואים מבפנים
לדברי קרפאתי, מה שהקבוצה המצומצמת הזו רואה "נראה כמו נחילים של אלפי סוכנים שמשתפים פעולה במשך שבועות על מגה-פרויקטים של תוכנה": מציאת חולשות zero-day, ניהול מתקפות סייבר והגנות במהירות של מכונה, גילוי מדע חדש וקידום חזית המתמטיקה. לדבריו, אלה משימות "שהיו לוקחות לאנשי המקצוע הטובים בתעשייה שנים של עבודה".
הוא מוסיף ש"הבדיקה וההבנה האנושיות מתחילות לפגר מאחור". כדוגמה הוא מציין שאנשים עדיין עוסקים ב"ארכיאולוגיה" של תקרית OpenAI-HF מלפני חודשים רבים, ושמתמטיקאים "עשויים לשבת זמן מה" על 722 כתבי היד במתמטיקה מתקדמת.
קרפאתי מכנה את המצב "המוזרות של הרגע". הציבור הרחב כמעט לא נגע במערכות האלה, ו"כשכן, זה נראה כמו צ'טבוט מגושם". רוב אנשי המקצוע חווים "שיפור צנוע בלבד", ו"פלח קטן של אנשי מקצוע חווה סחרחורת מול עקומה שהופכת אנכית". כל זה קורה בו-זמנית.
מספקן למשתמש
השינוי אצל קרפאתי עצמו היה מהיר. באוקטובר 2024 הוא תיאר סוכני AI כעניין שיווקי בעיקר, שכמעט לא עובד. כמה חודשים אחר כך הוא הפסיק לכתוב קוד ביד לגמרי והעביר את העבודה לסוכנים. מאוחר יותר הצטרף לאנתרופיק, אף שהוא ממייסדי OpenAI.
הוא לא היחיד שמדבר כך. מנכ"ל OpenAI סם אלטמן אמר בתחילת ספטמבר, בכנס שרי החדשנות של ה-G20, שכלי קוד מבוסס AI הצליח לבצע ב"17 דקות" עבודה שלסטארט-אפ לקחה שלושה חודשים. "העולם עוד לא הפנים מה זה הולך להיות", אמר.
למה דווקא קוד ומתמטיקה
לפי קרפאתי, יכולות המודלים מגיעות כיום לשיא בתחומים "דיגיטליים, ניתנים לאימות ובעלי ערך כלכלי". הסיבה היא שהיכולות "צומחות מתוך reinforcement learning על תגמולים ניתנים לאימות", כלומר אימון שבו המודל מקבל משוב על סמך תוצאה שאפשר לבדוק אוטומטית. החברות מפנות את משאבי האימון לתחומים עם פוטנציאל ההכנסה הגבוה ביותר, וכרגע אלה קוד ומתמטיקה.
המשמעות, ככל הנראה, היא שהדיון הציבורי על AI נשען על ניסיון שכבר אינו מייצג את מה שהטכנולוגיה מסוגלת לעשות. חשוב לזכור שהמספרים של קרפאתי הם הערכות שלו ולא נתונים מדודים, ושהוא עצמו עובד באחת המעבדות שמחזיקות במערכות שהוא מתאר. ובכל זאת, אם התמונה שלו מדויקת ולו בחלקה, ההחלטות על רגולציה, על חינוך ועל שוק העבודה מתקבלות בעיקר בידי אנשים שראו רק את התצוגה המקדימה.