מייסד Z.ai: AI שמשפר את עצמו הוא צעד מפתח בדרך ל-AGI, אבל רק אם זה נעשה בבטחה

טאנג ג'יה, מדען מחשב סיני בולט ומייסד חברת Z.ai, אמר ביום שבת באירוע בשנחאי ששימוש בבינה מלאכותית לבניית מערכות חכמות עוד יותר יקרב את האפשרות להגיע ל-AGI, כלומר בינה מלאכותית כללית. הוא הוסיף שזה חייב להיעשות בבטחה. כך דיווח ה-South China Morning Post.

לפי הדיווח, דבריו מראים שחברות AI בארה"ב ובסין רודפות אחרי אותה מטרה: שיפור עצמי רקורסיבי (Recursive Self-Improvement, או בקיצור RSI). הכוונה למצב שבו מערכות AI חזקות יותר ויותר גם הופכות טובות יותר בשיפור של עצמן, וכך הקצב הולך ומואץ.

מה זה בעצם "שיפור עצמי רקורסיבי"

היום חוקרים בני אדם מפתחים מודלי AI: הם מתכננים את הארכיטקטורה, אוספים נתונים, מריצים ניסויים ומתקנים שגיאות. הרעיון של RSI הוא להעביר חלק גדל והולך מהעבודה הזו למודלים עצמם. מודל משופר אמור לייצר את הדור הבא בצורה טובה יותר, הדור הבא אמור להיות טוב עוד יותר במשימה הזו, וכן הלאה.

בתעשייה רבים מתייחסים לכך כאל "הגביע הקדוש" בדרך ל-AGI. הסיבה ככל הנראה פשוטה: אם קצב ההתקדמות כבר לא תלוי רק במספר החוקרים ובשעות העבודה שלהם, הוא עלול לגדול מהר מאוד. באותו היגיון, מכאן מגיע גם החשש. תהליך שמאיץ את עצמו קשה יותר לפקח עליו, לבדוק אותו ולעצור אותו אם משהו משתבש. לכן לאמירה של טאנג על הבטיחות יש משמעות מעשית, ולא רק הצהרתית.

מי מדבר

Z.ai, שנודעה בעבר בשם Zhipu AI, היא אחת מחברות ה-AI המרכזיות בסין. היא מפתחת את משפחת המודלים GLM, וצמחה מתוך הסביבה האקדמית של אוניברסיטת צינגחואה בבייג'ינג. לכן כשטאנג ג'יה מדבר על הכיוון שבו התחום הולך, כדאי להקשיב: ככל הנראה דבריו משקפים גם את סדר העדיפויות של חלק ניכר מתעשיית ה-AI הסינית.

המרוץ בין ארה"ב לסין

המשמעות העיקרית של הדברים נוגעת לתחרות הטכנולוגית בין שתי המעצמות. בשיח המערבי מקובל לתאר את המרוץ ל-AGI כמשהו שמתנהל בעיקר בין מעבדות אמריקאיות. הדברים של טאנג מראים שגם בסין רואים בשיפור עצמי של AI את המפתח לשלב הבא, ושהמטרה הסופית של שני הצדדים זהה.

לחלק השני של האמירה, זה שעוסק בבטחה, יש גם משמעות. הוויכוח על בטיחות AI מוצג לא פעם כוויכוח מערבי. אמירה כזו של מנהיג חברה סינית מרכזית מרמזת שגם שם מכירים בסיכונים של מערכות שמשפרות את עצמן. עם זאת, הצהרה כזו לבדה לא אומרת אילו מנגנוני בטיחות החברה מפעילה בפועל, ופרטים כאלה לא נמסרו בדיווח.

למה זה חשוב

אם שתי המעצמות רודפות אחרי RSI במקביל, הלחץ התחרותי עלול להאיץ את המרוץ. השאלה שתלווה את התחום בשנים הקרובות היא ככל הנראה אם הדיבור על בטיחות יעמוד בלחץ הזה, או שהרצון להגיע ראשונים יכריע.