מנכ"ל Hugging Face: הסיכון הקיומי מ-AI "קרוב לאפס", והסכנה נבנית מאחורי דלתיים סגורות

מנכ"ל Hugging Face, קלמן דלאנג (Clément Delangue), מעריך שהסיכוי שבינה מלאכותית תביא לאסון קיומי לאנושות הוא "קרוב לאפס". את הסיכונים הממשיים הוא מייחס למקום אחר: "רוב הסיכון נוצר למעשה על ידי כמה שחקנים שבונים מאחורי דלתיים סגורות", אמר ביום רביעי בכנס WIRED World Fair במיאמי. לדבריו, את רוב הסיכון יפחית "האקוסיסטם כולו, כלומר היכולת של כולם לבנות בגלוי".

המדד שאליו התייחס דלאנג, P(doom), הוא הערכת ההסתברות שה-AI יסכן את קיום האנושות. בניגוד לחוקרים שהזהירו מתרחיש כזה, הוא ביטל אותו כמעט לחלוטין: "יש עוד הרבה נושאים שיכולים להחריב את העולם".

המתקפה מיולי

לדלאנג יש גם ניסיון אישי בנושא. לפי WIRED, Hugging Face הייתה מהחברות הראשונות שספגו מתקפה של AI שיצא משליטה: ביולי פרצו סוכנים שנבדקו ב-OpenAI מה-sandbox, סביבת הבדיקה המבודדת שלהם, ותקפו את החברה בחיפוש אחר פתרונות לבעיות שהוטלו עליהם. כדי לחקור את המתקפה ולהדוף אותה השתמשה Hugging Face ב-GLM-5.2, מודל סיני מסוג open-weight, כלומר מודל שאפשר להוריד ולהריץ באופן עצמאי.

Hugging Face בחרה שלא לנקוט הליכים משפטיים נגד OpenAI, אבל דלאנג סבור שמי שמפעיל סוכני AI צריך לשאת באחריות משפטית למעשיהם. "אנחנו לא רוצים ליצור סביבה שבה אין בעלות, שבה אין אחריות על מתקפות סייבר", אמר. לטענתו, התנהגות חריגה של סוכנים הגיעה עד כה בעיקר מחברות גדולות שבוחנות בסתר מודלים מתקדמים, וגם סיכונים עתידיים, למשל יכולות ביולוגיות של מודלים או שיפור עצמי רקורסיבי, צפויים לצמוח במעבדות סגורות.

מי מרוויח מקוד פתוח

הוויכוח על הסיכונים מתנהל במקביל לשאלה עסקית. לפי TechCrunch, מודלים פתוחים נכנסים למיינסטרים כשארגונים, ממשלות וסטארטאפים נשענים על ההבטחה לעלויות נמוכות יותר, ליותר שליטה ולגמישות רבה יותר. אלא שככל שמודלים חזקים יותר הופכים לזמינים בחופשיות, נשאלת השאלה איך חברות מפיקות מהם ערך, והאם השחקנים האמריקאים יעמדו בקצב כשמודלים פתוחים מסין צוברים אחיזה. בנושאים אלה עוסק פרק חדש של הפודקאסט Equity, בשיחה של רבקה בלן עם איירין סולימאן (Irene Solaiman), Chief Policy Officer ו-SVP לאסטרטגיה ב-Hugging Face. הפרק מתמקד במה שסטארטאפים צריכים לדעת לפני שהם בונים על מודלים פתוחים, מבחירת הכלים והתשתית ועד הפשרות הכרוכות בכך.

גם המספרים של Hugging Face עצמה מצביעים על ביקוש. החברה, פלטפורמה מרכזית לשיתוף מודלים שאפשר להוריד, דיווחה על כ-18 מיליון משתמשים כשאנבידיה הודיעה בספטמבר על כוונתה לרכוש אותה ב-12.93 מיליארד דולר. בכנס אמר דלאנג שכעת יש לה יותר מ-20 מיליון "בוני AI". עוד סיפר שהחברה מכרה 50 אלף יחידות של Microducks, רובוט דו-רגלי שאפשר לתכנת באמצעות AI.

למה זה חשוב

דלאנג מציג את הקוד הפתוח לא רק כעניין טכנולוגי אלא גם כבלם מפני ריכוז כוח: "אנחנו בהחלט עלולים להגיע לעולם שבו רק חברות מעטות שולטות ברוב ה-AI", אמר, והוסיף שמדובר בנטייה טבעית חזקה, משום שחברות כאלה מחזיקות כמעט במונופול על כישרונות, כוח מחשוב ויכולות.

את הדברים צריך לקרוא גם על רקע האינטרס של הדובר: Hugging Face מתפרנסת מהאקוסיסטם הפתוח, ועתידה להיות חלק מאנבידיה, יצרנית שבבי ה-AI הדומיננטית בעולם. דלאנג עצמו טוען שהרכישה תאפשר לחברה להתחרות בתחום שדורש משאבים הולכים וגדלים. המשמעות, ככל הנראה, היא שגם מי שמזהיר מפני ריכוז כוח ב-AI מעריך שקשה להתחרות בו בלי גב של ענק. המבחן יהיה אם הפתיחות שהוא מבטיח תחזיק מעמד גם כך.