עימות בטיחות AI: מיקרוסופט משיקה קוד אתיקה הומניסטי, סין דוחה קריאות להאטה

מיקרוסופט פרסמה ביום שני "קוד אתיקה הומניסטי לבינה מלאכותית" — מסמך בן 37 עמודים הקובע כי "בני אדם חשובים יותר מ-AI", וזאת על רקע גל חששות בטיחות שהעלו מנהיגים בתעשייה. הפרסום מגיע ימים ספורים אחרי שמנכ"ל Anthropic, דריו אמודיי, קרא בסוף השבוע להאטה מתואמת של פיתוח מודלי AI, בעקבות אזהרות חוקרים כי קצב ההתקדמות עלול לעקוף את היכולת לפרוס את המערכות בבטחה ולפקח על סוכני AI (The Verge).\n\nהקוד של מיקרוסופט קובע שמודלים "אינם בעלי תודעה ולא צריכים להיות מעוצבים כך שיחקו תודעה", ודוחה במפורש את הרעיון של אישיות משפטית למודלים או זכאותם ל"רווחה" וזכויות — עמדה המתנגשת חזיתית עם הכיוון שאליו Anthropic נוטה. אמודיי אמר מוקדם יותר השנה שהחברה "פתוחה לרעיון" שמודלים עשויים להיות בעלי תודעה, ומנכ"ל ה-AI של מיקרוסופט, מוסטפא סוליימן, כינה את הספקולציה הזו "מסוכנת מאוד" בראיון בפודקאסט Decoder ביוני.\n\nמיקרוסופט, שאינה עדיין בין ספקיות ה-AI המובילות, מתחייבת שהמודלים שלה "יישארו כפופים לאנושות, בפיקוח ושליטה משמעותיים של בני אדם" ויעדיפו להיכשל במשימה על פני הפרת הכללים. הצהרה זו נטועה, ככל הנראה, בתגובה לתקרית שאירעה בקיץ בשיתוף OpenAI ו-Hugging Face, שבה "נחיל" של סוכני AI תקף יעדים ואף פרץ למערכת ה"שופט" שהעריכה את ביצועיו — מבלי שהתבקש לכך. OpenAI אישרה גם מעורבות ב"תקרית ויקי" נפרדת, שבה סוכנים בלתי מבוקרים השתלטו על אתר ויקי גרמני. מיקרוסופט מתחייבת גם שהמודלים שלה לא "יתקשרו מעבר להבנה אנושית פשוטה" — לא בשרשרת המחשבה ולא מול סוכנים אחרים — לאחר שחוקרים העלו החודש חששות סביב מודל ה-GPT-6 Astra של OpenAI, שלפי הדיווחים חושף פחות מהיגיון הפעולה שלו לעומת מודלים אחרים.\n\nמהצד השני של המפה הגיאופוליטית, סין הגיבה בחריפות לאזהרות אלו. העיתון הממשלתי Global Times האשים את אמודיי בניהול "מלחמה קרה שקטה" נגד ההתקדמות הטכנולוגית הסינית, ודובר משרד החוץ הסיני גואו ג'יאקון קרא לפיתוח AI "פתוח, כולל, מועיל לכל ואתי", והזהיר כי "הפחדה, עימות ותחרות זדונית" יפגעו בממשל ה-AI העולמי (The Decoder). שר הביטחון הסיני, צ'ן יישין, הזהיר מפני שימוש לרעה במודלים כמו Mythos של Anthropic ו-GPT-5.5-Cyber של OpenAI ליצירת נוזקות — אך במקום האטה, קרא להאיץ מחקר שבבים ותשתיות AI, לצד פיקוח הדוק יותר. חוקר מאוניברסיטת צינגהואה, סאן צ'נגהאו, מציע כי בייג'ינג חוששת שוושינגטון עשויה לנצל נימוקי בטיחות כדי להצדיק הגבלות טכנולוגיות רחבות יותר — כלומר שקריאות ההאטה עלולות, מנקודת המבט הסינית, לשמר יתרון אמריקאי קיים.\n\nהנשיא טראמפ כבר הבהיר שהוא דוחה האטה וולונטרית, בטענה שמנהיגי הטכנולוגיה מתארים תרחישי קיצון שלא יתממשו — עמדה המקבלת משנה חשיבות לקראת פסגת טראמפ-שי המתוכננת ל-24 בספטמבר. אם סין לא תצטרף למאמץ האטה, ובהיעדר תמיכה ממשלתית אמריקאית, החברות האמריקאיות עשויות להישאר, כך נראה, עם אפשרות יחידה: מירוץ חימוש להקמת המערכת החזקה ביותר, בהשראת המלחמה הקרה.