דיווח: ותיקי אנתרופיק שוקלים לקנות קרקע באזורים מרוחקים, למקרה ש-AI "ישתבש"
לפי דיווח ב-WSJ, כמה מהעובדים הוותיקים ביותר של אנתרופיק אמרו לעמית בתעשייה שהם שוקלים לקנות קרקע באזורים מרוחקים בארה"ב, כדי לעבור לשם "אם AI ישתבש". הדיווח מתאר גם את הקשר ההדוק בין העובדים הראשונים של אנתרופיק ו-OpenAI לבין תת-התרבות של Effective Altruism, שעוסקת שנים בתרחישי קטסטרופה.
כמה מהעובדים הוותיקים ביותר של אנתרופיק, החברה שמפתחת את Claude, מתכננים תוכניות מגירה למקרה ש-AI יצא משליטה. לפי דיווח ב-Wall Street Journal שסוכם ב-The Decoder, "כמה מהעובדים הראשונים" של החברה אמרו לעמית בתעשייה בשבועות האחרונים שהם שוקלים לקנות קרקע באזורים מרוחקים בארצות הברית, כדי שיוכלו לעבור לשם "אם AI ישתבש".
חשוב לדייק: לפי הדיווח, מדובר בשיקול לקנות קרקע ולא בעסקאות שכבר נסגרו. הדיווח גם לא מפרט כמה עובדים מדובר או באילו אזורים. ובכל זאת, הוא נותן הצצה נדירה לאופן שבו חלק מהאנשים שבונים את הטכנולוגיה חושבים על הסיכונים שלה.
מפרויקט מנהטן ועד מתקן ממוגן במדבר
לפי הדיווח, הרעיון לברוח מ-AI לא חדש בחוגים האלה. עובדים לשעבר מספרים שכבר בימיה הראשונים של אנתרופיק, בארוחות ערב של החברה, דיברו על תרחיש בסגנון פרויקט מנהטן: אולי יבקשו מהם לעבור למדבר ולהמשיך לפתח AI בתוך מתקן ממשלתי ממוגן אלקטרומגנטית.
ההשוואה לפרויקט מנהטן, התוכנית האמריקאית לפיתוח פצצת האטום במלחמת העולם השנייה, שאחד מאתריה המרכזיים היה מתקן מבודד במדבר ניו מקסיקו, כנראה אינה מקרית. היא מבטאת תפיסה שלפיה AI מתקדם הוא טכנולוגיה בעלת חשיבות אסטרטגית, שמדינות עשויות לרצות להעמיד תחת פיקוח הדוק.
השורשים באפקטיב אלטרואיזם
הכתבה מתארת עד כמה העובדים הראשונים של אנתרופיק ושל OpenAI קשורים לתת-התרבות של Effective Altruism (EA), תנועה פילוסופית-חברתית שמנסה לזהות איך אפשר לעשות את הטוב הגדול ביותר, ומייחסת משקל רב לסיכונים שמאיימים על עתיד האנושות. לפי הדיווח, חלק מהעובדים באים מרשת של "doomers" באזור מפרץ סן פרנסיסקו, אנשים שכבר שנים מריצים תרחישים של סוף העולם.
הדמות המרכזית ברקע היא אליעזר יודקובסקי, שהזהיר מפני AI שיצא משליטה כבר באמצע שנות האלפיים, והפך בכך ל"סנדק האינטלקטואלי" של תת-התרבות הזו. לפי הדיווח, לפני ש-AI הגיע לראש רשימת האיומים, הקבוצה עסקה בסיכונים קטסטרופליים מסוגים אחרים, מפגיעת אסטרואיד ועד התפרצות של הר געש־על.
למה זה חשוב
הדיווח מבליט סתירה שמלווה את תעשיית ה-AI כבר שנים: חלק מהאנשים שמזהירים בקול רם מפני הסכנות של הטכנולוגיה הם גם אלה שמפתחים אותה בקצב מהיר. אנתרופיק עצמה הוקמה בידי יוצאי OpenAI, והציגה את עצמה מההתחלה כחברה שבטיחות AI נמצאת במרכז העשייה שלה.
אפשר לקרוא את הדיווח בשתי דרכים. אפשר לראות בו סימן שהחששות בתוך התעשייה אמיתיים, ושיש מי שמתרגמים אותם לצעדים מעשיים ברמה האישית. ואפשר לראות בו בעיקר ביטוי לתרבות מסוימת, שבה חשיבה על תרחישי קיצון היא חלק מהשגרה עוד הרבה לפני ש-AI הפך לטכנולוגיה מסחרית. ככל הנראה שתי הקריאות נכונות בחלקן. מה שהדיווח לא אומר הוא עד כמה התחושות האלה מקובלות בקרב אלפי העובדים שמצטרפים היום לחברות ה-AI הגדולות, ורבים מהם אינם מגיעים מהרקע הזה.