ענקיות ה-AI משוחחות על בטיחות, בעוד טראמפ דוחף להאצת המירוץ מול סין
קריס להיין, ראש מדיניות הגלובלית של OpenAI, אישר כי החברה מנהלת כבר שבועות שיחות בטיחות עם אנתרופיק וגוגל דיפמיינד. ההודעה מגיעה בעקבות מאמר של מנכ"ל אנתרופיק דריו אמודיי שקרא לתעשייה להאט את קצב הפיתוח, בזמן שהממשל האמריקאי דוחק להאיץ את התחרות הטכנולוגית מול סין.
קריס להיין, ראש המדיניות הגלובלית של OpenAI, אמר ביום שלישי לכתבים כי החברה מנהלת כבר כמה שבועות שיחות עם המתחרות אנתרופיק וגוגל דיפמיינד בנושא בטיחות בינה מלאכותית — כפי שדיווחה לראשונה בלומברג. לפי TechCrunch, להיין נמצא בוושינגטון כדי לעבוד מול מחוקקים אמריקאים על התמודדות עם סיכונים קטסטרופליים הקשורים ל-AI.
הגילוי מגיע בעקבות מאמר שפרסם ביום שבת מנכ"ל אנתרופיק דריו אמודיי, שבו קרא לתעשייה לפעול יחד כדי להאט את קצב הפיתוח של מודלים מתקדמים ולמנוע סיכונים קטסטרופליים. לקריאה זו הצטרפו, בין היתר, סם אלטמן מ-OpenAI, דמיס האסאביס מגוגל דיפמיינד ואילון מאסק. אלטמן אמר כי OpenAI תצטרף לאנתרופיק בשילוב גורמי הערכה חיצוניים (third party evaluators) בתוך החברה לצורך פיקוח על בטיחות.
עד כה נמנעו החברות מלפרט את היקף השיחות, וכעת להיין הודה בפומבי כי שלוש החברות בקשר סביב הנושא כבר שבועות. הוא ציין גם שהחברות אינן זקוקות לפטור ממשלתי ייעודי לצורך שיתוף הפעולה — בניגוד להצעה שהעלה אמודיי במאמרו, שקרא לפטור מצומצם שיאפשר תיאום בטיחות בין המתחרות בלי לחשוף אותן לתביעות אנטיטראסט. הסוגיה אינה תיאורטית: אלטמן עצמו ציין בעבר כי תיאום כזה עלול להיחשב הפרה של דיני התחרות אם יימצא שהוא מדכא תחרות.
מדובר בהמשך של שרשרת דיווחים: אלטמן רמז בשבוע שעבר בראיון ל-Fortune על שיחות פרטיות עם מנהיגי AI אחרים, ולפי דיווח של The Information מוקדם יותר השבוע, שלוש החברות פועלות גם להקמת גוף תקינה לתעשיית ה-AI — יוזמה שלדברי אלטמן, כך נמסר לעובדי החברה, עשויה להידרש לקום גם בלי תמיכת הממשל האמריקאי. הרעיון עצמו אינו חדש: האסאביס קרא כבר ביולי להקמת גוף תקינה אמריקאי חדש שישמש כ"שומר סף" של הבינה המלאכותית, בעל סמכות לבחון את המודלים המתקדמים בעולם ולתאם האטה כלל-תעשייתית אם יתגלו סיכונים.
ההקשר הפוליטי הוא שמעניק לסיפור את המשקל שלו. הנשיא טראמפ דחה עד כה חששות בטיחות כ"תרגיל הונאה" והתנגד להידוק רגולציה, בטענה שכל האטה בפיתוח תיתן יתרון לסין. היועץ הבכיר שלו לענייני AI, דיוויד סאקס — משקיע ותיק בעל אינטרס אישי בחלק ניכר מהתעשייה — הצטרף לעמדה זו ואמר שהחששות מסיכון קיומי מה-AI מוגזמים. במקביל, להיין ציין כי OpenAI תומכת בסעיף בחוק ה-FRONTIER שיחייב את מעבדות ה-AI המתקדמות ביותר לאפשר כניסה של "גופי אימות בלתי תלויים" שיוודאו כי הפיתוח נעשה בבטחה.
הפער בין השיחות הפנימיות של החברות לבין הרוח הפוליטית השלטת בוושינגטון ממחיש את המתח המרכזי של הרגע הנוכחי בתעשייה: מצד אחד, מנהיגי החברות המובילות מאותתים על רצון להאט ולתאם ביניהן; מצד שני, הממשל דוחף לכיוון ההפוך, מתוך תפיסה שכל עיכוב הוא הפסד אסטרטגי מול סין. איך בדיוק ייושבו שני הכיוונים הללו — דרך גוף תקינה עצמאי, דרך חקיקה כמו ה-FRONTIER Act, או בלי מסגרת פורמלית כלל — נותר, בשלב זה, פתוח.