דריו אמודיי קורא להאטת פיתוח בינה מלאכותית; טראמפ: לא נוותר על היתרון מול סין

מנכ"ל חברת Anthropic, דריו אמודיי, קרא לתעשיית הבינה המלאכותית להאט את קצב הפיתוח שלה, כדי לתת לאמצעי הבטיחות זמן להדביק את הפער מול היכולות המתקדמות. יום לאחר מכן, בסוף השבוע, דחה נשיא ארצות הברית דונלד טראמפ את הקריאה, ואמר שהוא אינו מעוניין לוותר על היתרון האמריקאי מול סין בתחום.

טראמפ, בביקור סוף שבוע באירלנד, אמר לכתבים כי אפשר להטיל "guard rails" (מנגנוני בלימה), אך ייחס את האזהרות מפני התקדמות מהירה מדי וללא פיקוח ל"כוחות שליליים" שלא זיהה את זהותם. "יש הרבה כוחות שליליים שמעלים דברים שלא צריכים להיות מועלים... והם מעלים דברים שלא יקרו," אמר. "מי שמנצח ב-AI מנצח," הוסיף, וטען שארצות הברית מובילה כיום על פני סין בפיתוח הטכנולוגיה, "ואני רוצה לשמור את זה ככה" (לפי הדיווח ב-SCMP).

הקריאה של אמודיי לא נולדה בוואקום. לפי כתבה ב-TechCrunch, בתקופה האחרונה הצטבר בתעשייה עצמה גל אזהרות: החוקר ג'ייקוב קוקסון, שעבד הן ב-Anthropic והן ב-OpenAI, התפטר מ-Anthropic מתוך חשש שחברות ה-AI המובילות "מהמרות בחיינו". בעקבות כך, ראש צוות ה-alignment (יישור ערכי המודל) ב-Anthropic שיתף את הפוסט של קוקסון ברשת X וכתב: "אנחנו באמת ובתמים מאמינים ש-AI עלול להרוג את כל בני האדם!", והוסיף שלהערכתו האישית הסיכוי לכך עומד על "מעל 10% בעשור הקרוב". לפי TechCrunch, פרק הפודקאסט Equity שעסק בפרשה הוקלט עוד לפני שאמודיי פרסם את קריאתו להאטה זהירה יותר בפיתוח.

המשמעות

טראמפ לא פירט אילו רגולציות בכוונתו לקדם, ולא זיהה את זהותם של ה"כוחות שליליים" - אך ככל הנראה מדובר בהתייחסות לחלק מהתעשייה עצמה, ובהם אמודיי, שמזהירים מפני קצב הפיתוח הנוכחי. העימות בין השניים משקף מתח שכבר קיים זמן מה בין ממשל טראמפ, שמעדיף מירוץ חופשי מול סין, לבין קולות בתוך תעשיית ה-AI שמבקשים עצירה זמנית לצורכי בטיחות.

יש לציין שהאזהרות מגיעות בעיצומה של הכנת Anthropic להנפקה פומבית (IPO). מגישי פודקאסט Equity של TechCrunch העלו בשידור השערה כי חלק מהניסוח הדרמטי סביב סיכוני קיום עשוי לשקף גם את הצורך המשפטי של החברה לנסח בזהירות את סעיפי הסיכון במסמכי ה-S-1 שלה לקראת ההנפקה - השערה שהוצגה כפרשנות של המגישים, ולא כעובדה מאושרת.