מהנדס ב-DeepSeek: נמשיך בקוד פתוח בדרך ל-AI חכם מבני אדם, גם אם זה מגדיל את הסיכונים

חברת ה-AI הסינית DeepSeek לא מתכוונת לוותר על קוד פתוח. לדברי גאו שי, מהנדס בחברה, היא מחויבת לפיתוח בינה מלאכותית בקוד פתוח כדי להאיץ את ההגעה ל-AGI (artificial general intelligence, בינה מלאכותית כללית שאמורה להשתוות לבני אדם או לעלות עליהם במגוון רחב של משימות). זאת גם אם הגישה הזאת מגבירה את סיכוני הבטיחות. גאו אמר את הדברים ביום שלישי, בפאנל על AI בכנס האינטרנט העולמי (WIC) בעיר ווּג'ן שבסין, כך דיווח ה-South China Morning Post.

שני לחצים, משני כיוונים

לפי הדיווח, העמדה הזאת מנוגדת לשני לחצים שונים. בארה"ב גוברים החששות מסיכוני הבטיחות של מודלים פתוחים. בסין עצמה נבחנת השאלה אם האסטרטגיה של החברה עלולה לסכן את הביטחון הלאומי.

לדברי גאו, פיתוח בקוד פתוח מקדם חדשנות משותפת והתקדמות טכנולוגית. ההיגיון הזה מוכר בעולם התוכנה: כשהמשקלות של מודל (weights, הפרמטרים שהמודל למד באימון) או הקוד שלו זמינים לכולם, חוקרים וחברות יכולים לבנות עליהם, לשפר אותם ולמצוא בהם תקלות מהר יותר.

למה קוד פתוח מעורר מחלוקת

בוויכוח על קוד פתוח ב-AI יש שני צדדים. התומכים טוענים שמודלים פתוחים מורידים את מחסום הכניסה, מאפשרים בקרה ציבורית על המודלים ומונעים ריכוז של כוח בידי כמה חברות ענק. המבקרים מזהירים שאחרי שמודל חזק פורסם, אי אפשר להחזיר אותו. כל אחד יכול להוריד אותו, להסיר ממנו את מנגנוני הבטיחות ולהשתמש בו לצרכים מזיקים.

הנכונות של DeepSeek לומר בפומבי שהיא מקבלת סיכון גבוה יותר בתמורה להתקדמות מהירה יותר בולטת. בדרך כלל חברות AI ממעיטות בסיכונים בהצהרות פומביות או מציגות את מנגנוני הבטיחות שלהן. כאן, לפחות לפי הדיווח, הסיכון מוצג כמחיר שהחברה מוכנה לשלם.

המשמעות

ככל הנראה, הדברים משקפים את המקום הייחודי של DeepSeek בתחרות העולמית. אסטרטגיית הקוד הפתוח היא חלק מרכזי בזהות שלה ובהשפעה שלה מחוץ לסין. ויתור עליה עשוי לפגוע במעמדה בקרב מפתחים ברחבי העולם.

מנגד, הביקורת מבית מלמדת שגם בסין יש מתח בין הרצון להוביל ולהפיץ טכנולוגיה סינית לבין החשש שידע רגיש יגיע לידיים זרות. העובדה שהדברים נאמרו דווקא בכנס ווּג'ן, במה ממלכתית לענייני אינטרנט וטכנולוגיה, מרמזת שהעמדה הזאת עדיין נסבלת בשיח הרשמי בסין. אבל אין בכך עדות לכך שהוויכוח הוכרע.

לקורא הישראלי ולתעשייה המקומית, שנשענת במידה רבה על מודלים פתוחים, יש כאן נקודה מעשית. עתידם של מודלים פתוחים חזקים תלוי לא רק בהחלטות טכנולוגיות, אלא גם בלחצים פוליטיים משני צדי התחרות בין ארה"ב לסין.