מייסד-שותף של קמברין קורא לתקנים אתיים משותפים למודלי AI בסין ובארצות הברית

צ'ן יונג'י, מייסד-שותף של יצרנית השבבים הסינית Cambricon Technologies (קמברין), קרא ביום שישי לקבוע דרישות אתיות אוניברסליות למודלי הבינה המלאכותית המובילים, הסיניים והאמריקאיים כאחד. לדבריו, הדרישות נועדו לצמצם את הסיכונים הגוברים שהטכנולוגיה יוצרת לחברה. כך דיווח ה-South China Morning Post.

צ'ן אמר את הדברים באירוע בשנגחאי. ברקע עומדת ההתקדמות המהירה של מערכות AI בעולם, שלפי הדיווח כבר הובילה לסדרת מתקפות סייבר בולטות. חלק מהמתקפות איימו על תשתיות קריטיות, ובחלקן נפרצו שרתים ממשלתיים.

מי הדובר, ולמה זה משנה

קמברין היא אחת מחברות השבבים הבולטות בסין, והיא מתמחה במעבדים שנועדו להרצה ולאימון של מודלי בינה מלאכותית. היא נחשבת לאחת המתחרות המקומיות של אנבידיה. לכן משקל הקריאה עולה: היא לא מגיעה מארגון אקדמי או מגוף רגולציה, אלא מבכיר בתעשייה שבונה את החומרה שעליה המודלים רצים.

גם הניסוח ראוי לתשומת לב. צ'ן לא דיבר רק על כללים למודלים סיניים, אלא על תקן משותף שיחול גם על המודלים של המתחרות האמריקאיות. המשמעות היא ככל הנראה הכרה בכך שהסיכונים, ובפרט סיכוני הסייבר, לא נעצרים בגבולות, ולכן כללים שחלים על צד אחד בלבד לא יספיקו.

הקשר: תחרות לצד דאגה משותפת

הקריאה מגיעה בתקופה של תחרות טכנולוגית חריפה בין שתי המעצמות. ארצות הברית הטילה בשנים האחרונות מגבלות על ייצוא שבבי AI מתקדמים לסין, וחברות סיניות, ובהן קמברין, מנסות לפתח חלופות מקומיות. על הרקע הזה, הצעה לקבוע סטנדרט אתי משותף היא צעד בכיוון ההפוך מהמגמה הכללית של היפרדות טכנולוגית.

מתקפות סייבר הן אחד התחומים שבהם החשש מ-AI כבר אינו תיאורטי. מודלי שפה גדולים (LLM) מסוגלים לכתוב קוד, לנתח מערכות ולאתר חולשות. אותן יכולות שמשמשות מגינים יכולות לשרת גם תוקפים. הדיווח לא מפרט מי עמד מאחורי המתקפות שצ'ן התייחס אליהן, ולא באילו מדינות התרחשו.

למה זה חשוב

בשלב הזה זו קריאה ולא יוזמה מוסדרת. הדיווח לא מציין הצעה קונקרטית, גוף שיפקח על התקנים או הסכמה מצד גורם אמריקאי. ובכל זאת יש לה משמעות: כשבכיר בתעשיית השבבים הסינית מדבר בפומבי על כללים אתיים משותפים עם היריבה הגדולה, זה ככל הנראה סימן שהחשש מנזקי AI, ובראשם מתקפות על תשתיות, מתחיל להיות שיקול שחוצה את קווי התחרות.

השאלה הפתוחה היא אם הקריאה תתורגם לשיח בין ממשלות או בין חברות בשני הצדדים, או שתישאר הצהרה במסגרת כנס. בהתחשב במתיחות הנוכחית בין וושינגטון לבייג'ינג, הדרך מהצהרה לתקן מחייב עשויה להיות ארוכה.