כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםפלטפורמות חדשות כמו Far Labs ו-Evolving Edge מאפשרות לבעלי מחשבים ביתיים להשכיר כוח מחשוב פנוי לחברות AI עבור הרצת inference, ולהרוויח הכנסה פסיבית. המודל, בהשראת שירותי שיתוף כמו Uber ו-Airbnb, מוצג כאלטרנטיבה למרכזי נתונים ענקיים שמכבידים על קהילות מקומיות.
חברות טכנולוגיה מתחילות לשלם לאנשים פרטיים תמורת שיתוף כוח המחשוב הפנוי שיש להם בבית — שרתים ביתיים, מחשבי גיימינג או אפילו מחשבים ניידים שלא מנוצלים במלואם. הכוח הזה מנותב להרצת מודלים של AI, ובתמורה מקבלים המשתמשים הכנסה. כך מדווח כתב העת IEEE Spectrum.
מדובר בפלטפורמות שמחברות בין בעלי מחשבים לבין חברות AI שזקוקות לכוח עיבוד עבור inference — התהליך שבו מודל שכבר אומן משמש כדי לענות על שאילתות של משתמשים, בניגוד לאימון מודלים חדשים שדורש עוצמת מחשוב עצומה יותר. אילמן שזהייב, מייסד ומנכ"ל חברת Far Labs שבסיסה באבו דאבי, מתאר את הרעיון כ"אובר או Airbnb, אבל למשימות מחשוב של AI inference". Far Labs צפויה להשיק בשבועות הקרובים פלטפורמה בשם Far AI. חברה נוספת, Evolving Edge של ג'ון פדריקו מאוסטין שבטקסס, נמצאת כרגע בגרסת בטא פתוחה. לפי הכתבה, גם Bless Network, Salad ו-Gradient השיקו פלטפורמות דומות במהלך השנה האחרונה.
מבחינת המשתמש, התהליך אמור להיות פשוט: נרשמים לתוכנית, מתקינים אפליקציה, וקובעים לוח זמנים שבו המחשב זמין להרצת עבודות עבור החברה. פדריקו מסביר שהתוכנה שמריצה את המשימות בצד המשתמש היא קוד פתוח, כך שכל אחד יכול לבדוק מה היא עושה בפועל — צעד שנועד להרגיע חששות מפני תוכנה זדונית או ניצול המכשיר. ב-Far Labs מסבירים ששיטת העבודה שלהם מבוססת על עיקרון "least privilege" (הרשאה מינימלית) — כלומר, מתן הגישה המצומצמת ביותר האפשרית הן למארח המכשיר והן למשתמש הקצה, כדי לצמצם סיכוני אבטחה ופרטיות.
הפלטפורמות הללו צומחות על רקע גל בניית מרכזי נתונים ענקיים שמלווה את בועת ה-AI — בנייה שלפי הכתבה גורמת נזק לקהילות מקומיות, ובהן העלאת מחירי חשמל, לחץ על משאבי מים, זיהום ורעש. פדריקו, בעצמו חובב מחשבים שמחזיק שרת ביתי משלו, מתאר את מרכזי הנתונים כ"מנצלים" (extractive) קהילות מבלי להחזיר להן שירותים או הכנסות ממס. לדבריו, כ-92% מהאוכלוסייה בארה"ב מחוברים לפס רחב, ורבים מהם, כמוהו, כבר מחזיקים "מיני מרכזי נתונים בארון".
מודל דומה כבר נוסה בעבר בהקשר אחר: פרויקט ההתנדבות SETI@Home פעל בין 1999 ל-2020 וניצל כוח מחשוב פנוי כדי לחפש סימנים לחיים חוצניים בנתוני טלסקופים רדיו.
מרכזי הנתונים הגדולים ימשיכו ככל הנראה להיות הכתובת לאימון מודלים חדשים ולהרצת המודלים המובילים בתעשייה. אבל עבור מודלים קטנים יותר, בעיקר בקוד פתוח, מודל המחשוב המבוזר עשוי להציע לחברות AI מקור זול יחסית לכוח עיבוד, ולבעלי מחשבים ביתיים — הזדמנות להכנסה פסיבית ממשאב שכבר קיים אצלם. עם זאת, מדובר בשוק חדש שרוב השחקנים בו עדיין בשלבי בטא או השקה, כך שהיקפו הכלכלי בפועל טרם הוכח.