האפיפיור ליאו ה-14 קורא "לפרק את הנשק" של ה-AI: "מכונות הן כלים, לא אישים"
בנאום שנשא ביום שישי קרא האפיפיור ליאו ה-14 למדינות החברות באו"ם לנקוט "צעדים קונקרטיים" לאיסור נשק אוטונומי קטלני, לקראת הפגישה בז'נבה בחודש הבא. הוא הזהיר גם מפני הענקת זכויות או אישיות משפטית למערכות AI, וקבע שהחלטות על חיי אדם חייבות להישאר בפיקוח אנושי.
האפיפיור ליאו ה-14 קרא ל"פרק את הנשק" של מערכות בינה מלאכותית, וקבע כי לבני האדם "יש אחריות להנחות, לשנות, וכשצריך – לדחות את יישומיה". בנאום שנשא ביום שישי, כך דיווח The Verge, הוא קרא למדינות החברות באו"ם "לנקוט צעדים קונקרטיים לקראת איסור נשק אוטונומי קטלני" בפגישתן בז'נבה בחודש הבא.
"מכונות הן כלים, לא אישים"
נשק אוטונומי קטלני הוא, בגדול, מערכת נשק שיכולה לבחור מטרה ולתקוף אותה בלי שאדם יאשר כל פעולה. בדיוק את הפער הזה – בין החלטת מכונה לאחריות אנושית – שם האפיפיור במרכז דבריו. "מכונות הן כלים, לא אישים", אמר למשתתפים, והזהיר מפני הסכנות שבהענקת זכויות או אישיות משפטית למערכות AI.
"החלטות שנוגעות לחיי אדם, לחירות ולשימוש בכוח חייבות תמיד להישאר כפופות לפיקוח אנושי אפקטיבי, מושכל ואחראי", אמר.
בסיום הנאום קרא ליאו ה-14 למוסדות בינלאומיים להגן על טובת הכלל מפני סיכונים הקשורים ל-AI. לדבריו, נדרשים "סטנדרטים משותפים, פיקוח בלתי תלוי ומנגנוני אחריותיות ברורים, כך שהחלטות על פיתוח AI ועל השימוש בו יוכלו להיבחן, להיות מאותגרות כשצריך, ולהיות מלוות בסעדים מתאימים לכל נזק שנגרם".
המשך לאנציקליקה ממאי
הנאום חוזר על רבים מהרעיונות שהציג האפיפיור במסמך האפיפיורי המרכזי הראשון שלו, שפורסם במאי והתמקד ב"שמירה על האדם בעידן הבינה המלאכותית".
הבינה המלאכותית הפכה לנושא מרכזי באפיפיורות של ליאו ה-14. לפי The Verge, הוא רמז שבחר בשמו משום שעליו להתמודד עם ההתקדמות בטכנולוגיה – בדומה לאופן שבו האפיפיור ליאו ה-13 עמד בראש הכנסייה בתקופת המהפכה התעשייתית.
הקריאה אינה חדשה לגמרי בוותיקן. ב-2024 קרא גם קודמו, האפיפיור פרנציסקוס, לאסור נשק אוטונומי, ואמר כי "שום מכונה לא צריכה לעולם לבחור ליטול חיים של אדם".
למה זה חשוב
לאפיפיור אין סמכות לחוקק או לאכוף דבר על מדינות, אבל לקול שלו יש משקל מוסרי וציבורי ניכר. ככל הנראה, התזמון אינו מקרי: הקריאה מגיעה שבועות ספורים לפני הפגישה בז'נבה, ונראה שנועדה להפעיל לחץ על מדינות לעבור מהצהרות עקרוניות לצעדים מעשיים.
מעבר לשאלת הנשק, הנאום נוגע גם בוויכוח רחב יותר: האם מערכות AI אמורות לקבל מעמד כלשהו של ישות – זכויות או אישיות משפטית. העמדה של ליאו ה-14 חד-משמעית: האחריות נשארת אצל בני האדם. המשמעות היא שהכנסייה הקתולית מבססת את עצמה כקול עקבי בדיון על רגולציה של AI, בדגש על פיקוח אנושי ואחריותיות – ולא רק על השאלה מה הטכנולוגיה מסוגלת לעשות.