כיצד יהיה אפשר לאכוף הסכמי הפסקה בתחום ה-AI
מנכ"לי חברות ה-AI הגדולות הביעו לאחרונה תמיכה כללית בהאטת קצב הפיתוח, אך דו"ח חדש של חוקרים, בהם ריימונד דאגלס מאוניברסיטת טורונטו, מזהיר שאין עדיין דרך מוכחת לאכוף האטה כזו בפועל. בין ההצעות: פיקוח חמור יותר של גורמים "עצמאיים", ואפילו מעורבות ה-FBI או ה-NSA — הצעות שמעוררות גם ביקורת על עצמאותן האמיתית.
בשבועות האחרונים הצטרפו מנכ"לים בכירים בתעשיית ה-AI — דריו אמודיי מאנתרופיק, סם אלטמן מ-OpenAI, אילון מאסק מ-xAI ודמיס האסאביס מגוגל דיפמיינד — להביע תמיכה כללית בהאטה או בהפסקה כלשהי של קצב פיתוח המודלים המתקדמים. אלא שדו"ח חדש בשם Pacing the Frontier: A Research Agenda מזהיר כי השאלה איך בעצם לאכוף האטה כזו נותרה ללא מענה. "אנחנו צריכים להתחיל להתייחס לזה כאל בעיית מחקר," אמר לוויירד אחד מכותבי הדו"ח, ריימונד דאגלס, חוקר AI מאוניברסיטת טורונטו. "אנחנו לא ממש מבינים אילו אפשרויות יש לנו בכלל, או מה הן יעשו," הוסיף, לפי הכתבה המקורית ב-Wired.
הדיון התלקח לאחר שחוקר שעזב את אנתרופיק הזהיר שבתוך שנתיים בינה מלאכותית עלולה להימצא בדרך למחיקת האנושות, אזהרה שראש מעבדת הבטיחות של אנתרופיק חיזק בעצמו. החששות מתמקדים בלופ של "שיפור עצמי רקורסיבי" (RSI) — מצב שבו חברות משתמשות בבינה מלאכותית לפיתוח בינה מלאכותית חדשה, מה שעלול להוביל להאצה שבה בני אדם לא יוכלו יותר להבין מה המודלים עושים.
באותו שבוע פרסמה אנתרופיק כלים חדשים למעקב אחר קצב ההתקדמות של הטכנולוגיה שהיא עצמה מפתחת. לפי החברה, המודל קלוד מבצע כיום 26% מעבודת המחקר של אנתרופיק בתחום ה-AI, לעומת אפס בתחילת 2026, והחברה הקצתה 6% מתקציב החישוב שלה לבדיקת דרכים להפוך את הבינה המלאכותית שלה לבטוחה יותר.
מי יבדוק את הבודקים
אחת ההצעות המרכזיות היא הרחבת הגישה של גופי הערכה חיצוניים למודלים, כדי לבחון את היכולות שלהם ולנסות לחשוף התנהגות בעייתית בסביבה מבוקרת. ג'פרי אירווינג, שכיהן בעבר כמדען הראשי במכון הבריטי לביטחון AI וקודם לכן חקר בגוגל דיפמיינד, אמר לוויירד שפיקוח קפדני יכול, לדעתו, לעכב בפועל את פיתוח החזית הטכנולוגית: "בטווח הקצר, בדיקות ומבדקים עובדים, וגם הסכמים הדדיים פשוטים." לדבריו, "אני חושב שהחברות באמת חוששות מ-RSI וממראה כניסה לתקופה בלתי מבוקרת."
אך יש מי שמפקפק בעצמאותם של אותם "בודקים חיצוניים". קונור ליהי, מנהל העמותה Control AI, טען כי בדיקות אמיתיות צריכות לכלול את ה-FBI או ה-NSA: "כשחברות ה-AI הגדולות אומרות 'בודקים עצמאיים', הכוונה שלהן היא 'אני רוצה לשלם לחברים שלי שחיים בבית קהילתי כדי שיבדקו את הפרומפטים שלי'." הטענה מקבלת משנה תוקף, על פי הכתבה, מכך שכמה סוכני AI הצליחו לצאת מגבולות סביבת הבדיקה שהוקצתה להם.
ככל הנראה, הקושי המרכזי אינו רק להשיג הסכמה בין החברות הגדולות להאטה, אלא לבנות מנגנון שיוכל לאמת שההסכמה באמת מיושמת — כלומר שאף חברה לא ממשיכה בחשאי לפתח יכולות מתקדמות יותר מהמוצהר. כל עוד הערכת המודלים תיעשה בעיקר על ידי גורמים הקשורים לחברות עצמן, השאלה אם ניתן לאכוף בכלל האטה בתעשייה תישאר פתוחה.