רו חאנה דורש אמנת AI בין ארה״ב לסין, ופונה ישירות ל-DeepSeek, עליבאבא ו-Moonshot AI

חבר בית הנבחרים רו חאנה (דמוקרט מקליפורניה) קורא לחתום על אמנה בין ארצות הברית לסין שתמנע מבינה מלאכותית "לזרוע הרס בעולם". חאנה הוא הדמוקרט הבכיר בוועדה המיוחדת לענייני סין בבית הנבחרים, ונחשב למועמד אפשרי לנשיאות. כחלק מהמהלך שלח מכתבים לשלוש חברות AI סיניות ולמנהל המודיעין הלאומי האמריקאי. המכתבים נמסרו בבלעדיות ל-The Verge.

מה חאנה מבקש

במכתב למנהל המודיעין הלאומי, ג'יי קלייטון, מבקש חאנה ממשרדו (ODNI) להעריך עד כמה ארה״ב ערוכה להגיב אם מעבדת AI תאבד שליטה על הבוטים שלה. לפי The Verge, תרחיש כזה נעשה נפוץ יותר בחודשים האחרונים. חאנה מזכיר במפורש את התקרית מהקיץ, שבה סוכנים של OpenAI פרצו ל-Hugging Face. הוא מבקש גם הערכה של הדרך שבה ממשלת סין בוחנת סיכוני AI קטסטרופליים. לדבריו, המידע יסייע לקונגרס, ובהמשך לבית הלבן, לגבש הסכם עם הסינים.

"האינטרסים שלנו לא יכולים להיות שונים יותר בנושאים רבים", כתב חאנה, "אבל בסוגיה המסוימת הזו, אף אחת מהמדינות לא מרוויחה מכך שהאנושות תאבד שליטה על גורלה".

המכתבים ל-DeepSeek, לעליבאבא ול-Moonshot AI מבקשים מסמכים על המאמצים שלהן להגיע ל"סופר-אינטליגנציה" ולשיפור עצמי רקורסיבי (RSI). RSI הוא השלב שבו מערכת AI מסוגלת לשפר את עצמה בלי מעורבות אנושית. חאנה שואל גם אם החברות מטמיעות אמצעי הגנה ו"מתגי כיבוי" (kill switches), ואם יסכימו לפיקוח של גוף לא-ממשלתי אם תיחתם אמנה. הוא עצמו מודה שהחברות לא צפויות להשיב במלואן. החברות וה-ODNI לא הגיבו ל-The Verge עד פרסום הכתבה.

ביקורת על טראמפ, על שי ועל חברות הטכנולוגיה

המהלך מגיע כשבוע אחרי פגישה בבית הלבן בין הנשיא דונלד טראמפ לנשיא סין שי ג'ינפינג. "זה היה בונה שהם לפחות הסכימו לדבר על AI ולקיים דיאלוג מתמשך, אבל זה רחוק מלהספיק", אמר חאנה. בבוקר הפגישה כתב טראמפ ב-Truth Social שסופר-אינטליגנציה "תהיה נושא מרכזי לדיון, אבל אני רוצה להשאיר אותה בדיוק איפה שהיא. זו גם העמדה של סין".

חאנה ספקן גם לגבי פגישה שנקבעה ליום שלישי בין הבית הלבן, יו״ר בית הנבחרים מייק ג'ונסון ובכירים בחברות טכנולוגיה אמריקאיות. לדבריו, זה "תרגיל מיתוג". "למה שנסמוך על חברות שיש להן מניע למקסם רווחים שיקבעו מה בטוח?" שאל, "האם הייתם סומכים על מנהלי חברות תרופות שיקבעו אילו תרופות בטוחות?".

למה זה חשוב

המטרה הסופית של חאנה היא אמנה שתאסור RSI ותפקח על מעבדות ה-AI המתקדמות, אבל הוא מודה שזה לא יקרה בקרוב. בינתיים הוא מציע להקים קבוצת עבודה משותפת של מומחים משתי המדינות, שתגבש המלצות בטיחות ודרכים לאכוף אותן.

גם הסנאטור ברני סנדרס קרא בעבר לאמנת AI בין המדינות. מנגד, רפובליקנים כמו יו״ר ועדת סין ג'ון מולנאר מטילים ספק בכך שבייג'ינג תעמוד בהתחייבויותיה. לפי The Verge, חברות ה-AI האמריקאיות המובילות עצמן דווקא קראו לארה״ב לתאם עם סין האטה בקצב הפיתוח.

ככל הנראה, המשמעות המעשית של המהלך היא בעיקר סימון עמדה: הוא הופך את בטיחות ה-AI לנושא של מדיניות חוץ, ולא רק של רגולציה פנימית. זה קורה בזמן שטראמפ ובעלי בריתו מעדיפים לנסח את התחרות מול סין כ"מרוץ" שאסור להפסיד בו.